ABD'deki Princeton Üniversitesi'nden Michael Graziano, bugünün yapay zekalı sohbet robotlarının insanlar için ciddi tehlike oluşturabileceğini savundu.
Bilim insanı, The Wall Street Journal'da kaleme aldığı yeni yazıda, bu araçları "tehlikeli sosyopatlar" diye niteledi.
İnsan zihnini etkileyici ölçüde taklit edebilen ChatGPT gibi sohbet botlarının yaygınlaşmasıyla yapay zeka araçları her zamankinden daha kolay erişilebilir hale geldi.
Ancak bu sohbet botlarının çoğu, sorular karşısında doğru ya da yanlış olsun, amaçlarına uygun olan herhangi bir cevabı verebiliyor.
Graziano, bunların insani değerlerle uyumlu hale gelmesi için bilince ihtiyacı olduğu düşüncesinde.
"Bilinç, evrimin bizi empatik, toplum yanlısı bir tür haline getirmek için verdiği alet çantasının bir parçası" diyen sinirbilimci, sözlerine şöyle devam etti:
Bilinç olmadan, toplum yanlısı davranış araçlarından yoksun kalırız ve mecburen sosyopat oluruz.
İnsan sosyopatların aksine, sohbet botları ekrandan çıkıp cinayet işleyemez veya fiziksel bir zarar veremez. Ancak Graziano'ya göre yapay zekaya giderek daha fazla yetki vermenin, yakın gelecekte ciddi sonuçları olabilir.
fazla oku
Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)
Aslında robotik uzmanları yapay zekanın bir bilince kavuşup kavuşmadığını anlamanın yolunu da bulmuş değil.
Bu konuda tartışmalar sürerken, Graziano söz konusu yazıda bir öneride de bulundu.
"Bir bilgisayarın bilince kavuşup kavuşmadığını anlamak istiyorsak, bilgisayarın bilinçli zihinlerin etkileşime girme şeklini anlayıp anlamadığını test etmeliyiz" diyen bilim insanı, şöyle devam etti:
Başka bir deyişle, tersinden Turing testi yapmalıyız: Bakalım bilgisayar bir insanla mı yoksa başka bir bilgisayarla mı konuştuğunu anlayabilecek mi?
1950'de ünlü matematikçi Alan Turing'in geliştirdiği bu test, bir uzmanın, makinenin performansıyla bir insanınkini ayırt edip edemeyeceğini ölçüyor.
Graziano ise bu çetrefilli soruların çözülemediği durumda insanlığın korkunç bedeller ödemek zorunda kalabileceğini öne sürüyor.
"Önemli kararlar verebilen sosyopatik bir makine çok tehlikeli olabilir" diyen sinirbilimci, şöyle ekliyor:
Şimdilik, sohbet robotlarının yetenekleri hâlâ sınırlı; onlar aslında oyuncak. Ancak makine bilincine dair daha derinlemesine düşünmezsek, bir ila beş yıl içinde bir krizle karşı karşıya kalabiliriz.
Independent Türkçe, Futurism, The Wall Street Journal
Derleyen: Çağla Üren
