Bilim insanları yeni bir araştırmada yapay zekanın insanlığa varoluşsal bir tehdit yaratmadığı sonucuna vardı. 

Yapay zeka veya bilgisayarların, insanlardan daha zeki ve güçlü hale gelerek gezegenin "hakim türü" olacağı endişesi, bu teknolojik araçlar kadar eskiye uzanıyor.

Çok sayıda bilimkurgu hikayesine ilham veren bu korku, yapay zekanın son yıllarda hızlı bir ilerleme kaydetmesiyle daha sık dile getiriliyor.

Ayrıca bu endişelerin sadece halk arasında varlık gösterdiğini söylemek pek doğru olmaz. Yapay zeka alanında çalışan bazı uzmanlar da bu araçların kontrol edilemeyeceğini ve insanlığı riske atacağını düşünüyor. 

ABD'deki Louisville Üniversitesi'nden yapay zeka güvenliği uzmanı Dr. Roman V. Yampolskiy, "yapay zekanın kontrol edilebileceğine dair kanıt olmadan geliştirilmemesi gerektiğini" savunuyor. 

Bu teknolojiyi, "insanlığın bugüne kadar karşılaştığı en önemli sorun" diye tanımlayan Dr. Yampolskiy şöyle diyor:

Varoluşsal bir felakete yol açma potansiyeli taşıyan bir olay yaşanması neredeyse kesin.

Ancak Birleşik Krallık'taki Bath Üniversitesi'nden araştırmacıların yaptığı yeni bir çalışmaya göre bu endişeler büyük ölçüde yersiz. 

Hesaplamalı Dilbilim Derneği'nin 11-16 Ağustos'ta düzenlenen yıllık toplantısında sunulan çalışmaya göre, özellikle geniş dil modelleri "doğaları gereği" kontrol edilebilir, öngörülebilir ve güvenli.

Araştırmacılar ChatGPT'nin de aralarında yer aldığı geniş dil modellerinin, toplumsal olaylarla ilgili soruları yanıtlamak gibi açıkça eğitilmedikleri görevleri yerine getirme kapasitelerini inceledi. 

Yapay zeka modellerinin böyle bir becerisi olması, bilinçli bir hale geldiklerine yönelik endişelere yol açıyor.

Bilim insanları binden fazla deney yaparak bu becerilerin, modelin dil işleme, örüntüleri takip etme ve gelişmiş hafızasından kaynaklandığı sonucuna vardı. 

Yapay zeka araçlarının, en azından geniş dil modellerinin özerklik kazanmadığını söyleyen araştırmacılar şu ifadeleri kullanıyor:

Talimatları takip etme yeteneği, muhakeme becerisine sahip oldukları ve daha da önemlisi, tehlike yaratma potansiyeli taşıyan gizli yetenekler anlamına gelmiyor.

Araştırma ekibi, yapay zekanın varoluşsal bir tehdit yarattığına dair tartışmaların, asıl sorunun önüne geçtiğini savunuyor. 

Bu teknolojinin yalan haberler üretme ve dolandırıcılık yapma gibi zararlı yönlerine dikkat çekiyorlar. 

Ayrıca bu araçların, kasıtlı olmadan yanlış bilgiler verdiği de daha önce kaydedilmişti. 

Araştırmacılar, yapay zekanın etik kullanımını sağlamaya ve suiistimal edilmesinin önüne geçmeye odaklanılması gerektiğini söylüyor. 

Çalışmanın ortak yazarı Dr. Iryna Gurevych "Elde ettiğimiz sonuçlar, yapay zekanın tehdit yaratmadığı anlamına gelmiyor" diyerek ekliyor: 

Aksine, belirli tehditlerle ilişkilendirilen karmaşık düşünme becerilerinin ortaya çıktığı iddiasının kanıtlarla desteklenmediğini ve sonuçta geniş dil modellerinin öğrenme sürecini çok iyi kontrol edebileceğimizi gösteriyoruz.

Bu nedenle gelecekteki araştırmalar, sahte haber üretmede kullanılma potansiyelleri gibi, modellerin yarattığı diğer risklere odaklanmalı.

Independent Türkçe, New Atlas, Debrief, Hesaplamalı Dilbilim Derneği

Derleyen: Büşra Ağaç