Yaklaşık iki hafta önce düşünce merkezi McCain Enstitüsü’nün ev sahipliğinde yapılan bir forumda en kıdemli ve en ünlü ABD siyaset teorisyeni Henry Kissinger, yapay zekanın tehlikelerinden bahsederek bunun, ABD ile Çin arasında çıkması beklenen potansiyel çatışma ile dünyanın sonunun gelmesi ihtimalini iki katına çıkardığına işaret etti.
1970’li yılların başlarında Moskova’yı sıkıştırmak amacıyla Washington ile Pekin arasındaki ilişkilerin yeniden başlamasına zemin hazırlayan meşhur “ping-pong” diplomasisinin sahibi Kissinger, yapay zeka gibi icatların sağladığı büyük teknolojik güçlerin, vahşet ve zarar verme açısından insanlığın daha önce hiç bilmediği silahlarla birleştirildiğini öne sürüyor. Kissinger Soğuk Savaş sırasında nükleer bir çatışma çıkma riskinin yüksek olmasına rağmen, başta elektronik akıllarla üretilen silahlar olmak üzere nükleer silah alanındaki teknolojik ilerlemenin, kıyamet günü senaryolarına ve nükleer kış çemberine girilmesine ilişkin risklerin ve endişelerin artmasına yol açtığını ifade etti. Bu yüzden 100 yaşına yaklaşan Kissinger “İnsanoğlu tarihte ilk defa belli bir süre içerisinde kendini yok etme gücüne sahip” şeklinde korkunç bir ifade kullandı. Kissinger “İnsanoğlu, 70 yıl önce hayal bile edilemeyecek güçte teknolojiler geliştirdi” dedi.
Neden dünyanın şu anki durumuna Soğuk Savaş dönemindeki ciddiyet ile yaklaşılmıyor? Bu tarihi yaklaşımın tutarsız olmasında yapay zekanın herhangi bir rolü var mı?
Genel olarak yapay zekanın rolünün olduğu düşünülüyor. Amerikan siyaset patriği Henry Kissinger bunu şu şekilde açıklıyor:
“Yapay zeka alanındaki teknolojik mesele, insanın makineyle ortak olduğu ve makinenin özerklik geliştirdiği gerçeğine dayanıyor. İki teknolojik süper güç arasındaki askeri bir çatışmada, bu mesele büyük bir önem kazanıyor.”
Atom bombasından daha tehlikeli olan güç: Yapay zeka
Yapay zeka nedir ve bu sahaya çok yakın olan bazı kişilerin iddia ettiği gibi gerçekten atom bombasından daha büyük bir tehlike mi arz ediyor?
Yapay zeka için yapılabilecek en yakın tanım, makinelerin -hiç şüphesiz başta bilgisayarların- insanlar yerine çalışmasıdır. Bu da gelişim sürecinin belirli bir noktasında bir makinenin insan gibi düşünebileceği, plan yapabileceği, bir karara varabileceği ve sonra aldığı bu kararı uygulayabileceği anlamına geliyor. Özellikle bu makinelerin düşünce özelliklerinin insanın kapasitesini aşma ihtimalini göz önüne alırsak, bu büyük tartışmaları beraberinde getiriyor.
Yapay zekaya odaklanan modern teknolojinin en önemli isimlerinden Elon Musk yakın bir zamanda, insan zihnini bilgisayara bağlayarak bilim adamlarının hayaline ulaşma, yani insan beynini uzaktan kontrol etme ve insanları istenilen şekilde yönlendirme projesinden söz etti. Bununla birlikte Musk, yapay zekaya ilişkin şahsi korkularından da bahsetti ve bununla ilgili pek çok uyarıda bulundu. Musk yapay zekanın insanlığın varoluşunu tehdit edebilecek bir teknoloji olduğunu ve bunun kontrol edilmesi gerektiğini düşünüyor. Zira yapay zeka, nükleer silah tehlikesini gölgede bırakacak büyüklükte bir tehlikeye dönüşebilir. Hatta belki de bir gün yapay zeka öyle bir noktaya ulaşacak ki sokaklarda yürüyen ve insanları öldüren robotlar göreceğiz. İşte o zaman insanlık kendisine doğru gelen tehlikeyi fark etmiş olacak.
Yapay zekanın güvenliğini sağlamak için gösterilen çabaların sadece yüzde beş ila yüzde 10'luk bir başarı şansına sahip olduğunu ifade eden Elon Musk’ın belki de yapay zeka ile ilgili yaptığı en iyi tanım şuydu:
“İnsanlığın kaçamayacağı ölümsüz bir diktatör.”
Peki Kissinger söz ve eylem açısından gerçekten haklı mı?
Washington ve Pekin’in taht kavgası
Okuyucu kavga kelimesinden bunun uluslararası kutupluluğa doğru bir yarış olduğu zannına kapılabilir. Ancak aslında burada kastedilen şey ABD ile Çin arasında yapay zeka sahnesinde önder olma mücadelesi.
Çinliler, Washington'un yapay zeka dünyasında uzun mesafe katettiğinin ve yapay zekaya dayalı onlarca askeri siber programın yanı sıra Yıldız Savaşları Programı da dahil olmak üzere uzay boşluğunda gerçekleştirmek üzere kusursuz programlar hazırladığının farkında. Yıldız Savaşları Programı 1983 yılında dönemin ABD Başkanı Ronald Reagan tarafından ortaya atılmıştı. Daha sonra ise Eski ABD Başkanı Donald Trump başkanlık döneminin başlarında bu projeyi raftan indirmeye karar vermişti.
ABD’nin bu şekilde ilerlemesi karşısında Çin de eli kolu bağlı oturmuyor ve ipi göğüslemek için iki şekilde çabalıyor. İlki, ABD’nin yapay zeka ile ilgili programlarını dolaylı yoldan elde etme girişimleri. İkincisi ise bu yolda ABD’lilerle savaşmak için büyük bir fon toplamak.
Bilgi ve veri analiz şirketi Gartner’da araştırma direktörü olan Anthony Mullen Verge New York Times gazetesine verdiği demeçte “Çin’in yapay zeka ile ilgili alanlarda ABD ile rekabet etme arzusu oldukça gerçekçi. Pekin, hükümet finansmanı ve büyük bir nüfus başta olmak üzere bu alanda ilerleme kaydetmek için gerekli tüm faktörlere sahip” dedi.
Bu bağlamda bazı gerçeklerden bahsetmek yerinde olacaktır. Bu gerçeklerden en önemlisi büyük yapay zeka sistemleri için dev bir veri tabanı gerektiği. Verilerin ana kaynağı insanlar olduğu için Çin bu noktada büyük bir avantaja sahip. Nitekim ülkede 1,4 milyardan fazla insan yaşıyor. Bu kişiler, kullanıcıların gizliliği konusunda daha müsamahakar olan Çin merkezli teknoloji devleri tarafından kullanılabilecek faydalı bilgiler üretiyor. En nihayetinde Çin, hayatın neredeyse her alanına yüz tanıma sistemini yerleştirmiş durumda.
Yukarıda bahsettiklerimiz Çin’in askeri programlarının temelde yapay zeka teknolojilerine bağlı hale geldiği anlamına mı geliyor? Kissinger’ın korktuğu rekabet bu temele mi dayanıyor?
Ulusal güvenlik durumu ile ilgili tehlikeler
En önemli bilgi ve analiz kaynaklarından biri olan ABD merkezli düşünce kuruluşu RAND Corporation tarafından yayınlanan bir raporda ve ABD Savunma Bakanlığı’nın gelecek ile ilgili değerlendirmelerinde yapay zekanın ABD ulusal güvenliği üzerindeki tehlikelerini görüyoruz. Zira siber güvenlik, özellikle yapay zeka kaynaklı güvenlik açıkları için zengin bir alan olarak tanımlanıyor. Yapay zeka araçlarının en önemli işlevlerinden biri, bilgi ile etkili bir şekilde oynaması. Bu yüzden yapay zeka araçları özellikle bilgi ve siber güvenlik uygulama savaşları için uygun olabilir.
Aynı şekilde ulusal güvenliği denetleme veya siber güvenliği sağlama alanında yapay zekanın uygulanması, verilerin temelindeki zayıflık sorununa dayalı yeni bir siber saldırı hedefi oluşturuyor. Düşmanlar yapay zeka ile çalışan bir denetleme sistemini sistematik olarak yanlış bilgilerle nasıl besleyebileceklerini öğrenebilirler. Böylece gizli otomatik bir çifte ajan oluşturabilirler.
Yapay zeka tabanlı bir dünyada güvenlik ile ilgili bir diğer çarpıcı güvenlik açığı da (veya çarpıcı bir özellik), üçüncü kişilerin ağlara girmek için uyguladığı yapay zeka tekniklerinin kullanılması. Peki bu birkaç yıl önce gerçekten oldu mu?
Birçok kişi 2016 ABD Başkanlık seçimlerinde dış siber saldırılarla sınırı aşan yabancıların müdahalesi ile ilgili ABD Merkezi İstihbarat Teşkilatı’nın (CIA) verdiği bilgileri hatırlar. Bu saldırılar, seçmenlerin görüşlerini etkilemek amacıyla sızdırılan özel verilerin seçilerek kamuya açıklanmasından oluşuyordu. Bu tür saldırılar, uygun bilgiler elde edildiğinde tespit edilip tanımlanabilirken, daha gelişmiş yapay araçlar, saldırıyı planlayan birimin yeteneklerini artırabilir ve saldırı sırasında tespit edilme olasılıklarını azaltabilir.
Bir kez daha 2020 yılında ABD Başkanlık seçimleri sona ermiş, bölücü ve ayrılıkçı durumlar günümüzdeki noktasına ulaşmış ve ABD yıkıcı yapay zeka saldırılarından birine maruz kalmıştı. Saldırılar ABD Dışişleri Bakanlığı ve ABD Hazine Bakanlığı’nı hedef alan ve genelde ABD’nin stratejik hedeflerine zarar veren siber ihlaller şeklinde yapılmıştı. O gün Demokratlar ve Cumhuriyetçiler bu saldırının arkasında Rusya olduğu konusunda hemfikirdi. Başbakan seçilen Joe Biden da bu siber saldırıyı gerçekleştiren kişileri ne durduracak ne de onlara karşılık verecek büyük bir intikam tehdidinde bulunmuştu.
Nisan ayı sonlarında ABD’nin Washington şehrindeki polis teşkilatı bilgisayar sunucularından birine büyük bir siber saldırı düzenlendiğini duyurdu. Bu saldırı polis raporlarındaki çok sayıda gizli bilginin, iç notların, polisin gizli ajanlarla bağlantılarının ve bu ajanların isimlerinin sızdırılmasına yol açarken, asıl felaket hırsızların çaldıkları bilgileri yayınlamaması için Washington Polisi ile “hackerların” görüşmeler yapması oldu. Bu, ABD hükümetine bağlı kurumların siber alemde günümüz korsanlarının rehinesi haline geldiğini gösteriyor.
Bunlara göre şöyle bir korkunç soru ortaya çıkıyor: Yapay zeka tehditleri nükleer silahlara uygulanabilir mi?
Nükleer cephaneliğe yaklaşan felaket
Geçtiğimiz aralık ayında ABD Dışişleri Bakanlığı ile Hazine Bakanlığı sunucuları siber saldırıların hedefi olduğunda kuşkulu bir fısıltıyla ABD cephaneliğine sızılıp sızılmadığı veya uyrukları ne olursa olsun yabancı “hackerların” ABD’nin askeri tesislerine yaklaşıp yaklaşmadığı sorgulandı.
O sırada ABD’liler olayı tartışmak istemiyor gibi görünüyordu. Ancak muhtemelen Kissinger son uyarı çığlığını atacak kadar bilgiye sahipti.
Ancak Washington ile Pekin arasında ilişkilerin kurulmasına yardımcı olan ilk adamın (Kissinger) açıklamalarından yaklaşık üç ay önce yapay zekanın nükleer silahlanma üzerindeki uygulamalarına ilişkin ilgi çekici ve ciddi bir rapor yayınlandı. Gelin birlikte bakalım.
Ocak ayının ortalarında Stockholm Barış Araştırmaları Enstitüsü’nden (SIPRI) uzmanlar, dünyadaki nükleer güçlerin hummalı rekabetine eşlik eden potansiyel nükleer tehditlere ve yapay zeka buluşlarını ve çeşitli uygulamalarını nükleer silah alanında kullanma girişimlerine ilişkin uyarıda bulundular. Uzmanlar nükleer silahların kullanılma olasılığının artmasıyla birlikte bu durumun küresel istikrar üzerinde olumsuz etkiler ve riskler oluşturabileceğini öne sürdüler.
SIPRI’nın raporunda yapay zeka alanındaki gelişmeler, özellikle makine öğrenimi ile kendi kendine öğrenme uygulamaları ve nükleer teknoloji dünyasında erken uyarı araçlarından komuta, kontrol ve silah tedarikine kadar nükleer silahlarla ilgili sektörlerde yapay zekanın kullanılması konusunda kapının nasıl ardına kadar açılacağı yer alıyor.
Raporun hazırlanmasına katkıda bulunan kıdemli araştırmacı Vincent Boulanin, Kissinger’in dünyanın sonuna ilişkin endişelerini kuruntudan çok gerçeğe dönüştüren bir soruna değiniyor. O da nükleer silahı olan ülkelerin, sahip oldukları nükleer enerjinin yönetimi ve işletilmesinde yapay zeka kullanımlarının şimdiki veya gelecekteki rolü konusunda şeffaf davranmamaları.
Mısır resmi haber ajansı MENA’ya göre raporu hazırlayanlar, nükleer silaha sahip olan ülkelerin, genel olarak nükleer askeri amaçlara ve nükleer hizmetlerle ilgili gereksinimlere hizmet etmek için hızlı bir şekilde yapay zeka teknolojilerini geliştirmeye yönelmesinin öngörülemeyen sonuçlar doğuracak pervasız davranışlara yol açacağını vurguluyorlar. Aynı zamanda yapay zeka uygulamalarının olgunlaşmamışken benimsenmesinin, nükleer silahlara maruz kalma risklerini ve başarısızlık olasılıklarını artıracağına ya da bu uygulamaların nükleer bir çatışmaya evrilebilecek bir olaya veya krize dönüşecek şekilde kötüye kullanılabileceğine dikkat çekiyorlar.
Bu rapordaki önemli sesler arasında, SIPRI Silahlanma ve Silahsızlanma Konuları Uzmanı Lora Saalman öne çıkıyor. Her halükarda yapay zeka teknolojilerinin kendi içinde nükleer silah kullanımı için itici bir güç olmasının pek olası olmadığını ifade eden Saalman, yapay zeka teknolojilerinin nükleer seviyeye ulaşan bir krizi körükleyebileceği etkenleri anlamak için dikkate alınması gereken bölgesel yönelimler, jeopolitik gerilimler ve kodların yanlış çözülüp yorumlanması gibi nedenler olduğuna dikkat çekti.
Nick Bostrom ve yapay zekanın geleceği
İnsanlığın dikkatini yapay zekanın metafiziğine çeken sesler arasında İngiltere Oxford Üniversitesi’nde profesör ve İnsanlığın Geleceği Enstitüsü’nün kurucusu olan İsveçli filozof Nick Bostrom bulunuyor.
Bostrom teknolojinin varoluşsal riskler, antropik ilke ve bunun dünyaya ve kendi rolümüze bakış açımız üzerindeki sonuçları, süper zeka ve yol açabileceği öngörülemeyen sorunlar veya yeni bir medeniyetin dönemleri üzerine yaptığı araştırmalarla uluslararası çapta bir üne sahip.
Bostrom'un bahsettiği bu süper zeka nedir?
Kısaca söylersek süper zeka bilimsel yenilik, genel hüküm verme ve sosyal beceriler de dahil olmak üzere neredeyse her alanda en iyi insani akıllara büyük oranda üstün gelme gücüne sahip zihin demektir.
Bostrom “Transhümanizm: Geleceğe Yönelik Küçük Bir Kılavuz” adlı kitabında süper zekayı, yalnızca insan beyninin hızını aşan değil, aynı zamanda türü bakımından da insan beyninden daha akıllı olan bir zihne işaret ederek tanımlıyor.
Bostrom’a göre köpeğinizin beynini ne kadar hızlandırmaya çalışırsanız çalışın insan beynine eşdeğer bir beyin elde edemezsiniz. Aynı şekilde, çok hızlı insan beyninin bile mevcut kapasitesi göz önüne alındığında erişemeyeceği zeka türleri olabilir. Ancak sinir ağlarımızın hacmini veya bağlantılarını artırmak kadar basit bir şey bize bu yeteneklerden bazılarını kazandırabilir. Diğer iyileştirmeler için bilişsel mimarinin tamamen yeniden düzenlenmesi veya eskilerinin üzerine yeni bilişsel tabakaların eklenmesi gerekebilir.
Bostrom'a göre süper zeka ile yapay zeka arasında herhangi bir ilişki var mı?
İsveçli filozof, şimdiki veya gelecekteki yapay zeka sistemlerinin yakın bir zamanda insan varlığı için herhangi bir tehdit oluşturmadığını, ancak bir süper zeka sistemi oluşturulursa bu sisteme insan dostu değerlerin eklenmesinin son derece önemli olduğunu ifade ediyor. Zira Bostrom’a göre insanlığın çıkarını önemsememe veya düşmanlık besleme seviyesine ulaşan hedeflerin yanı sıra kötü niyetli veya dikkatsiz bir şekilde tasarlanmış süper zeka, insanlığın yok olmasına neden olabilir.
Diğer bir endişe kaynağı da, üstün planlama yeteneği ve hızlı bir şekilde geliştirebileceği teknolojiler sayesinde oldukça güçlü olabilecek ilk süper zekanın yalnızca bir kişiye ya da programcılar veya kendisini görevlendiren şirket gibi küçük bir gruba hizmet etmek için oluşturulacak olması.
Bu senaryo tüm zeki yaşam formunun gerçek anlamda yok olacağı anlamına gelmese de, varoluşsal bir risk teşkil ediyor. Çünkü gelecekte insanlığın yeteneklerinin büyük bir bölümü kalıcı olarak yok edilmiş olacak ve daha çok insan nüfusunun küçük bir kısmı Bostrom’un adlandırdığı transhümanizmin faydalarından yararlanacak.
Yapay zeka dünyasının sonu ve tehlikeleri
40 yıl önceki elektronik sistemlerin hikayelerine dönüp baktığımızda, 1983'te meydana gelen bir olay dikkatimizi çekiyor. O zamanlar, Soğuk Savaş en şiddetli anlarını yaşıyordu ve Washington ile Moskova arasında son derece gergin bir bekleyiş vardı.
O dönemde Sovyetler Birliği’nin erken ikaz sistemleri, bir ABD füzesinin kendilerine doğru gelmekte olduğuna dair uyarıda bulunmuştu. Şayet uyarı doğruysa hiç şüphesiz bu nükleer başlıklı bir füzeydi. Bu da ABD’lilerin Ruslara ilk darbeyi vurma konusunda inisiyatif aldıkları anlamına geliyordu.
O zamanlar dünya nükleer savaşın eşiğindeydi. Bu uyarının yanlış bir uyarı olduğu kanısına varan Rus subay Stanislav Petrov’un dikkati ve sakinliği olmasaydı ve uyarıya karşılık vermeme kararı almasaydı nükleer bir savaş dünyayı kasıp kavurmuş olurdu.
40 yıl önce, yapay zeka sistemleri günümüzdeki seviyesine ulaşmamıştı. Buna göre şöyle bir soru ortaya çıkıyor: İnsanlık, bir kez hata yaparak tüm dünyayı ölüme sürükleyebilecek yapay zeka zihinlerine kendi kaderini teslim edebilir mi?
İnsanlık hemen hemen iki gruba ayrılıyor. Bir grup yapay zekayı devam etmemesi veya gelişmemesi gereken potansiyel bir felaket olarak görüyor. Diğer grup ise mekanizmalarından yararlanmak için yapay zekanın geliştirilmesinin önemli olduğunu savunuyor.
Bu bağlamda, Google'ın eski patronu Eric Schmidt’in başkanlık ettiği bir ABD komitesi önemli bir rapor hazırlayarak bunu ABD Başkanı Biden’a ve ABD Kongresi’ndeki Senato ve Temsilciler Meclisi üyelerine sundu.
Rapor, yapay zeka ile çalışan silah sistemlerine yönelik küresel düzeyde ambargo konulmasına yönelik çağrıların reddedilmesini tavsiye ediyor. Ayrıca yapay zekanın faydalarının en başında, kararların çok hızlı bir şekilde ve oldukça küçük hata paylarıyla alınmasının geldiğine işaret ediyor. Bu da insanların yapamadığı bir şey.
ABD’nin, Rusların ve Çinlilerin böyle bir ambargonun uygulanması halinde buna uymayacağını düşünmesinden hareketle, raporu hazırlayanlar yeni Amerikan yapay zeka silahlarının geliştirilmesini tavsiye ettiler ve aksi takdirde üst düzey askeri yetenekleri ile tanınan ABD silahlı kuvvetlerinin önümüzdeki yıllarda askeri ve teknolojik üstünlüğünü kaybedeceklerini ifade ettiler.
Henry Kissinger dünyanın sonunun gelişi ile ilgili uyarısında haklı mıydı?
Kulakları var ama işitmiyorlar, gözleri var ama görmüyorlar... Bu dünyanın hali.
*İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe’nin editöryal politikasını yansıtmayabilir.
Independent Türkçe için çeviren: Sema Sevil
