ABD'nin yapay zeka raporu sızdı: "Tüm insanlığı yok edebilir"

"Kontrolden çıkarsa insanları düşman olarak görecek"

Rapor, aralarında OpenAI, Google ve Meta gibi firmalardan uzmanların yanı sıra hükümet çalışanlarının da yer aldığı 200'den fazla kişiyle yapılan görüşmelerle hazırlandı (Unsplash)

ABD yönetiminin sızdırılan raporunda, yapay zekanın insanlığı yok etme potansiyeline sahip olduğu belirtildi. 

ABD'nin tanınmış politika dergilerinden TIME'ın incelediği "Gelişmiş Yapay Zekanın Güvenliğini Artırmak İçin Eylem Planı" adlı raporda, yapay zekanın yol açabileceği sorunlar ve bunlara karşı atılabilecek adımlar incelendi.

Raporda, "Gelişmiş yapay zeka ve yapay genel zekanın yükselişi, nükleer silahların kullanılmaya başlandığı dönemdeki gibi küresel güvenliği istikrarsızlaştırma potansiyeline sahip" dendi.

Yapay genel zeka (YGZ), bir insanın yapabileceği herhangi bir zihinsel işlemi eksiksiz şekilde gerçekleştirebilen yazılımları tanımlamak için kullanılıyor. 

fazla oku

Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)

Çalışmada, yapay zekanın denetlenmemesi durumunda "insan türünü yok edebilecek seviyede bir tehdit yaratacağı" savunuldu. 

Raporda, yapay zekanın geliştirilmesine yönelik iki temel riske dikkat çekildi. "Silahlanma riski" adı verilen ilk kategoride, yapay zeka çalışmalarının "potansiyel olarak yıkıcı biyolojik, kimyasal veya siber saldırılar tasarlayıp düzenlemek amacıyla kullanılabileceği" savunuldu. 

"Denetimin kaybedilmesi" adlı ikinci kategorideyse yapay zekanın "kontrolden çıkabileceği ve otomatik olarak insanlara düşmanca davranabileceği" öne sürüldü. 

Çalışmada bu risklere karşı yazılım ve donanım üretiminin denetlenmesinden sorumlu olacak federal bir yapay zeka biriminin kurulması gerektiği belirtildi.

Bu birimin, yapay zekanın belirli bir seviyenin üzerinde eğitilmesini yasaklayabileceği, böylelikle teknolojinin daha kontrollü biçimde gelişmesinin sağlanabileceği savunuldu.

Yapay zeka sektörünün önde gelen firmalarına devlet onaylı sertifika zorunluluğu getirilebileceği, şirketlerin de burada belirlenen sınırlar dahilinde çalışabileceği bildirildi. 

Ayrıca bu güvenlik eşiğinin oluşabilecek tehditlere ya da olumsuz durumlara göre farklı seviyelere çekilebileceği ifade edildi. 
 


TIME'ın aktardığına göre rapor, ABD Dışişleri Bakanlığı'nın Kasım 2022'de anlaştığı Gladstone AI adlı yapay zeka analiz firması tarafından hazırlandı. 250 bin dolar bütçe ayrılan raporun sonuçları, 26 Şubat'ta bakanlık yetkilileriyle paylaşıldı. 

Haberde, ABD Dışişleri Bakanlığı'nın yorum taleplerine yanıt vermediği bildirildi.


Independent Türkçe, TIME, New York Post

DAHA FAZLA HABER OKU