Yapay zekanın kara kutusu çözülmezse tehlikeli olur mu?

Yapay zeka alanında sıkça kullanılan bazı algoritmalara tam olarak açıklanamadıkları için "kara kutu" denildiğini söyleyen Prof. Dr. İlker Birbil, bu gizemin çözülmesinin gelecekte korkutucu olaylar yaşanmaması için önemli olduğunu vurguladı

Görsel: Pixabay

Sağlık hizmetlerinden hukuk sistemine kadar çok farklı alanlarda yapay zeka kullanılmaya devam ediyor.

Öyle ki yapay zeka dünyayı değiştirmeye başladı. İnsansı robotların etrafta dolaştığı bir ortam için henüz erken olduğu bilim insanları tarafından sık sık dile getiriliyor.

Amsterdam Üniversitesi'nden Prof. Dr. İlker Birbil'e göre, insan zekasına sahip robotların yakın bir zamanda gerçek olmayacak.

Beyni sadece kendi içinde bir makine gibi düşünüp, modellemeye çalışılırsa eksik kalacağını kaydeden uzmanlar, yapay zekanın mevcut durumda insan beyninin başarılı olduğu yönleri taklit ettiğinin altını çiziyorlar. 

Yapay zeka alanında sıkça kullanılan bazı algoritmalara tam olarak açıklanamadıkları için "kara kutu" denildiğini söyleyen Prof. Dr. İlker Birbil, bu gizemin çözülmesinin gelecekte korkutucu olaylar yaşanmaması için önemli olduğunu vurguladı.  
 


Yapay zekanın insanlardan çok daha başarılı olduğu alanlar var. Bunların başında görüntü işleme geliyor. Örneğin bir yapay öğrenme algoritması binlerce resmin içinden herhangi bir insanı büyük hızla ve ölçekle seçebiliyor. Diğer bir deyişle görseller içindeki örüntüyü kolayca ortaya çıkarabiliyor. 

Birbil, "İnsanların dile getirdikleri gibi yapay zeka dünyayı değiştirecek. Değiştirmeye başladı bile. Ama tarihte yeni teknolojinin dünyayı değiştirdiğine pek çok kez şahit olduk. Traktör de dünyayı değiştirdi ve hepimiz bir süre sonra buna uyum sağladık. Şimdilik yapay zekaya da bu bakış açısıyla yaklaşmakta fayda var" diyor. 


Yapay öğrenme nedir? 

Yapay zekanın en büyük ve bu aralar en gözde alt alanlarında biri yapay öğrenme.

Hiç şüphesiz her geçen yıl daha da fazla veri üretiyoruz. Resimler, metinler, internetteki her şey veriler arasına ekleniyor.

Elde edilen bunca veriden, bir ilişkiler ağı çıkarabilmek ve bunu matematiksel olarak ifade etmek yapay öğrenme alanındaki araştırmacıların en temel çabalarından biri oluyor.

Bu çabalar sayesinde elimizden düşmeyen cep telefonlarımızla bile binlerce görsel arasında kolayca arama yapabiliyoruz.  Bu işin bir yönünü oluşturuyor.

Görüntülerden istenen verinin bulunması ile ilgili Birbil şunları anlattı:

Yıllar içerisinde binlerce doktor, çekilen binlerce beyin tomografisi için çeşitli yorumlar yaptı. Bu bilgiler bilgisayarlarda tutuluyor. Dolayısıyla bu bilgileri, bir yapay öğrenme yöntemi ile işleyerek, doktorların çalışmalarını kolaylaştırmamız mümkün.
 

Prof. Dr. İlker Birbil.jpg
Prof. Dr. İlker Birbil

 

Kara kutu çözülmezse tehlikeli sonuçlar olabilir

Yapay öğrenme algoritmalarından bazılarının çok karmaşık olduğunu kaydeden Birbil, sözlerini şöyle sürdürdü:

Bu algoritmaların çok iyi sonuçlar aldıklarını biliyoruz. Adımlarını bizler yazdığımız için izledikleri yol hakkında da bir fikrimiz var. Ancak bu başarıyı nasıl elde ettiklerini tam olarak anlayamıyoruz. Bunun birkaç tehlikesi var. Öncelikle bu algoritmaları daha da iyileştirmek istiyorsak, nasıl çalıştıklarını anlamamız gerek. Bir diğer tehlike de yakın zamanda bu algoritmaların yeterince test edilmeden yaygın biçimde kullanılmaları oluyor. Özellikle kritik alanlarda bu algoritmaları doğrudan kullanmakta tereddüt ediyoruz. Çünkü, bir açıklama yapamıyoruz. Fakat bu algoritmalar bazı işlerde bizden çok daha başarılılar. Onun için her alanda hızla kullanılmaları çok olası. Bunun tehlikeli sonuçları olabilir.


Yapay zeka ciltte oluşan benlerin kansere dönüşme ihtimalini tespit edebilir mi?

Yayımlanan ünlü bir makalede, insanların ciltlerindeki benlerin fotoğraflarına bakarak, hangi benin tehlikeli olduğu yapay öğrenme algoritması kullanılarak tespit edilmeye çalışılıyor.

Araştırmacılar bu çalışmayla çok yüksek bir başarı elde ettiklerini görüyorlar ve sonuçlarını çok prestijli bir dergide yayımlıyorlar. 

Daha sonra aynı yazarlar, bir detayı fark ediyorlar ve makalelerini geri çekiyorlar. Çünkü önerdikleri karmaşık görüntü işleme algoritması tehlikeli benleri değil, resimlerde cetvel olup olmadığını tespit ediyor .  


Resimlerde ne zaman cetvel oluyor? 

Doktorlar muayene ettikleri hastalardan şüphelendikleri zaman, beni ölçmek için cetvel kullanıyorlar. Çünkü cetvel koyup baktıkları zaman, bu bene dikkat etmek gerek anlamı çıkıyor.

Dolayısıyla aslında şekli tanımaktan ziyade, yapay öğrenme algoritması fotoğraf içinde cetvel olup olmadığına bakıyor.

Birbil, "Algoritmanın bir benin tehlikeli olduğu kararını bu şekilde aldığını anlarsak, geriye dönüp veriyi temizleyebiliriz. Ki o zaman algoritma başka örüntüleri öğrenebilsin. Eğer o örüntüleri anlayabilirsek, belki elde edilen sonuçlar doktorlar için de öğretici olabilir" dedi. 
 

 

Yapay zeka hukuk sisteminde kullanılabilir mi?

Algoritmalar hukuk sisteminde de karşımıza çıkıyorlar. Örneğin Amerika'da bir süre önce kullanılan karmaşık bir algoritma, bir insanın çeşitli özelliklerine bakarak o kişinin tekrar suç işleme olasılığını tahmin etmeye çalışıyor.

Ardından suç işleme olasılığı daha yüksek olan insanları yargıçların önüne getiriyor. Başarılı dahi olsa daha sonra anlaşılıyor ki, aslında algoritma çok basit kurallar ile çalışıyor. Örneğin şu iki sorunun cevabına göre olasılığı belirliyor: 

  • Gelen insan belirli bir yaşın altında mı? 
  • Siyah tenli bir insan mı? 

Bu tür alanlarda yapay zekanın kullanılmaması gerektiğine dikkat çeken Birbil, "Bu algoritmanın baktığı şeylerden bir tanesi ten rengi oluyor. Aslında bayağı yanlı, hatta ırkçı bir algoritmadan bahsediyoruz. Ama sorun algoritmanın kendisinde olmayabilir. Neticede bu algoritmalar geçmişte yargıçların ürettikleri veriyi kullanıyorlar. Bu veri pekala yanlı olabilir. Belki algoritma kabaca bizi taklit ediyordur" yorumunda bulundu. 


Avrupa Birliği yapay zeka kanunu çıkartmak istiyor

Avrupa Birliği bir yapay zeka kanunu üzerinde çalışıyor. Yapay Zeka (AI) Yasası ile yasal, güvenli ve güvenilir uygulamalar için tek bir pazarın geliştirilmesinin kolaylaştırılması ve pazarın parçalanmasının önlenmesi hedefleniyor.  

Kullanılacak algoritmaların belirli alanlar için özellikle şeffaf ve anlaşılır olması amaçlanıyor. 

Bu tür politika değişiklikleri, güvenilir yapay zeka uygulamaları konusunda yeni ve heyecan verici araştırmaları tetikleyebilir. 

 

© The Independentturkish

DAHA FAZLA HABER OKU