ChatGPT'nin yaratıcılarından biri, yapay zeka gelişiminin yıkıcı düzeyde sonuçlar doğurma potansiyeliyle ilgili uyarıda bulunan ve gittikçe kalabalıklaşan araştırmacıların arasına katıldı.

Halihazırda, yapay zeka üzerine çalışmalar yapan ve kâr amacı gütmeyen bir kuruluş olan Alignment Araştırma Merkezi'ni yöneten eski OpenAI çalışanı Paul Christiano, bu teknolojinin insanlığın yok olmasına yol açması ihtimalinin kayda değer seviyede olduğuna inandığını söyledi.

Christiano'nun iddia ettiği üzere asıl tehlike, yapay zeka sistemleri insanların bilişsel kapasitesine ulaşıp onu aştığında ortaya çıkacak. Dr. Christiano bu an geldiğinde "kıyamet ihtimalinin 50/50" oranında olduğunu öngörüyor.

Bankless isimli podcast'te konuşan Christiano, "Epey büyük bir mesele olan yapay zeka sistemlerinden, değişimin bir nevi hızlandığı bir noktaya aşağı yukarı bir yıllık sürede geçileceğini düşünme eğilimindeyim. Bunun ardından hızlanma daha da artacak ve bu böyle devam edecek" dedi.

Bence bu bakış açısına sahip olduğunuzda pek çok şey yapay zeka sorunu gibi gelebilir çünkü bunlar yapay zekayı kurduktan çok kısa süre sonra ortaya çıkıyor.

Eski OpenAI araştırmacısı Paul Christiano halihazırda Alignment Araştırma Merkezi'ni yönetiyor (Ekran görüntüsü/YouTube)​​​​​​​

Christiano, "Yapay zekanın birdenbire ortaya çıkıp herkesi öldürmesinden ziyade, her yere çok sayıda yapay zeka yerleştirmemiz sonucu ölmemiz daha muhtemel ... [Ve] Tanrı korusun, eğer herhangi bir nedenle tüm bu yapay zeka sistemleri bizi öldürmeye çalışırsa, bunu kesinlikle yaparlar" diye ekledi.

Bu yorumlar, son aylarda yapay zekanın hızla ilerlemesine ilişkin endişelerin arttığı bir dönemde geldi. Yapay zekanın vaftiz babası diye anılan Geoffrey Hinton, teknolojinin tehlikelerine karşı toplumu uyarmak üzere Google'dan ayrıldı.

The New York Times'a konuşan Hinton, halihazırda karşı karşıya kaldığımız bu öngörülemez gelecek nedeniyle, bu alana katkıda bulunmaktan pişmanlık duyduğunu söyledi.

Hinton, "Bu şeyin insanlardan daha zeki olabileceği fikrine birkaç kişi inanıyordu ama çoğu kişi bunun çok uzak bir ihtimal olduğunu düşünüyordu. Ben de çok uzak olduğunu düşündüm. Bunun 30-50 yıl ya da daha uzun bir süre sonra gerçekleşeceğini düşünüyordum. Elbette artık böyle düşünmüyorum" dedi.

Kontrol edip edemeyeceklerini anlayana kadar bunu daha fazla büyütmemeleri gerektiğini düşünüyorum.

Diğer araştırmacılar Hinton'ın bu duruşunu övgüyle karşılarken AnthropicAI'dan Catherine Olsson bu tavrın, alandaki diğer araştırmacıları da seslerini çıkarmaya teşvik edebileceğini söyledi.

Olsson, "Üniversitedeyken bir arkadaşım neden henüz et yemeyi bırakmadığımı sorduğu anda et yemeyi bırakmıştım. Etik değerlerimiz üzerindeki toplumsal onaylar çok etkili olabiliyor" diye tweet attı.

Sık sık Anthropic'i ne zaman bırakacağımı ya da yapay zekayı tamamen terk edeceğimi düşünüyorum. Başkalarını da buna teşvik ediyorum. Bu hareketin beni etkileyeceğini şimdiden söyleyebilirim.

Diğer önde gelen isimler de yapay zeka firmalarını gelişmiş sistemlerin geliştirilmesine ara vermeye çağırırken en son binlerce uzmanın imzaladığı bir açık mektupta, yapay zekanın geliştirilmesine en az 6 ay askıya alınmaması halinde hükümetlerin devreye girmesi çağrısında bulunulmuştu.

Mektubu imzalayanlar arasında, yapay zekanın yarattığı varoluşsal tehdit hakkında sık sık konuşan Elon Musk da vardı. OpenAI'ın kurucularından olan teknoloji milyarderi pazartesi günü "Makinelerin nasıl çalıştığını unutacak kadar ileri gidilirse, yapay zekaya/otomasyona iyi niyetli bağımlılık bile uygarlık için tehlikeli olur" diye tweet attı.

*İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe’nin editöryal politikasını yansıtmayabilir.

https://www.independent.co.uk/tech

Independent Türkçe için çeviren: İpek Uyar