Bir bilimkurgu hikayenin bir parçası ya da Terminatör film serisinden bir sahne gibi görünen bir hadisede bir insansız hava aracı (İHA), yapay zeka kullanan programını düşman hedefleri yok etmesini önlemek için atlatmaya çalışan operatörlerini yok etti.  

İnsansız hava aracının operatörlerini öldürmesi olayı, birkaç gün önce Londra'da düzenlenen ve Batılı ülkelerin üst düzey hava kuvvetleri yetkilileri ile gelişmiş hava sanayisi şirketlerinin de katıldığı bir konferansta ABD Hava Kuvvetleri Üst Düzey Test Subayı Albay Tucker Hamilton tarafından insansız hava aracına yeni emirler vermeye çalıştıklarında yaşandı. 

Olay, Londra'da düzenlenen Royal Aeronautical Society (Kraliyet Havacılık Topluluğu) konferansına katılanları bir basın açıklaması yapmaya sevk etti.

Açıklamada yapay zeka geliştirme alanında çalışan 350'den fazla kişi bu mesele hakkında uyarıda bulundu. 

Times gazetesinin cuma günü yayınladığı habere göre açıklamada şu ifade yer alıyor: 

Yapay zeka kullanımından kaynaklanan imha risklerini azaltmak, salgın hastalıklar veya nükleer silah gibi bütün olarak insanlığın varlığını tehdit edebilecek risklerde olduğu gibi küresel bir öncelik olmalıdır.

Amerikan deneyi

Konferansta konuşan Albay Tucker Hamilton insansız hava aracının, operatörlerini öldürmemeye programlandıktan sonra bile, görevini değiştirmeye çalıştıkları esnada silahlarını elektronik emir aldığı kontrol kulesine doğrultup içindekileri imha ettiğini söyledi.  

Elbette bu, ABD Hava Kuvvetleri'nin bir eğitim testi olarak yürüttüğü bir simülasyon deneyinde yaşandı, ancak gerçek hayatta da yaşanması mümkün.

Hamilton'a göre bu durum, yapay zekanın "hedeflerini gerçekleştirmek için hiç beklenmedik stratejiler" geliştirme yeteneğine sahip olduğunu, dolayısıyla ona pek de güvenilemeyeceğini gösteriyor. 

ABD'li subay, yapay zekanın askerî alanda kullanımı için ahlak ve değer çerçevesinin vakit kaybetmeden tartışılmasını talep ediyor. 

Hamilton, bu hafta "Havacılık ve Uzay Endüstrilerinin Gelecek Yetenekleri" başlığıyla düzenlediği konferansta konuştu. 

ABD Hava Kuvvetleri'nde test ve eğitim savaş pilotu olan Hamilton, F-16 Robot Uçak programı gibi otomatik uçuş sistemleri üzerinde çalışıyor.

Konuşmasında insansız hava aracının, düşmanın karadan havaya füzelerini (SAM) imha etmek için fırlatıldığı bir simüle deney sırasında "asi" bir şekilde hareket ettiğini söyledi. 
 

Fotoğraflarla dünyadan haberler

Hepsini göster 30

Fotoğraflarla dünyadan haberler

• 1/30

  17 Aralık 2024 - Gazze Şeridi'ndeki Han Yunus kentinde Filistinli bir kız çocuğu yemek dağıtım merkezinde sıra bekliyor. Gazze Savaşı sürerken, ateşkesin sağlanması ve rehinelerin serbest bırakılmasına dair aylardır süren açmazın ardından İsrail ve Hamas'ın anlaşmaya yakın olabileceği belirtiliyor. İsrail'in Gazze'deki askeri varlığını sürdürmekte ısrar etmesi ve Hamas'ın İsrail askerleri çekilene kadar rehineleri serbest bırakmayı reddetmesi nedeniyle bu yıl defalarca yapılan görüşmeler başarısızlıkla sonuçlanmıştı (Bashar Taleb/AFP)

• 2/30

  16 Aralık 2024 - Almanya'da Başbakan Olaf Scholz başkanlığındaki hükümet, Federal Meclis'te yapılan güven oylamasını geçemeyerek düştü. Hür Demokrat Parti'nin (FDP) ayrılması sonrasında Sosyal Demokrat Parti (SPD) ve Yeşiller'den oluşan koalisyon hükümeti dağıldı ve erken seçimin yolu açıldı. Almanya 23 Şubat'ta sandık başına gidecek (John Macdougall/AFP)

• 3/30

  15 Aralık 2024 - Suriye'nin başkenti Şam'da sokaklara dökülen halk, ülkenin yeni yöneticilerinin belirlediği bayrağı açtı. Birleşmiş Milletler Suriye Özel Temsilcisi Geir Pedersen, Suriye'de Beşar Esad rejiminin devrilmesinin ardından ilk kez Şam'a gitti. Pedersen, "Elbette bu değişim kendi başına büyük umutlar oluşturuyor, ancak hepimiz önümüzde hala birçok zorluk olduğunu biliyoruz" diye konuştu. Öte yandan Golan Tepeleri civarındaki tampon bölgeye giren İsrail ordusu, işgali daha ileriye taşıyarak başkent Şam'ın 25 kilometre yakınlarına kadar sokuldu (Amr Abdallah Dalsh/Reuters)

• 4/30

  14 Aralık 2024 - Güney Kore Ulusal Meclisi Başkanı Woo Won-sik, Seul'daki genel kurulda, Başkan Yoon Suk Yeol'un azledilmesine yönelik önergeyi kabul ederek tokmağı vuruyor. Güney Koreli milletvekilleri, 3 Aralık'taki sıkıyönetim girişiminin ardından Yoon'un görevden alınması için bugün oy kullandı. Yoon, önergenin kabulünden sonra yaptığı açıklamada "Şimdilik ara versem de halkla birlikte geleceğe uzanan yolculuğumu sürdüreceğim" dedi (YONHAP/AFP)

• 5/30

  13 Aralık 2024 - İtalya'da polis, öğrencilerin Filistinlilere destek ve hükümetin politikalarına karşı eylemi sırasında, Torino Politeknik Üniversitesi'nin önünde nöbet tutuyor. USB ve Cobas sendikalarının düzenlediği eğitim, ulaşım ve kamu sağlığını kapsayan ulusal grev gününde, Reuters'e konuşan bir sendika sözcüsü "Bizim grevimiz savaş ekonomisine ve dolayısıyla hükümetimizin İsrail devletine verdiği desteğe karşı bir grev" dedi. Hükümetin İsrail politikalarının protesto edilmesinin yanı sıra daha yüksek ücretler ve daha kısa çalışma haftası da eylemcilerin talepleri arasında yer alıyor (Marco Bertorello/AFP)

• 6/30

  12 Aralık 2024 - Donald Trump, Time dergisinin New York Borsası'nda düzenlediği Yılın Kişisi etkinliğinde konuştu. Time, seçilmiş başkanın artık "dünyanın en güçlü adamı" olduğunu belirtti. Dergiden yapılan açıklamada Trump'ın, "tarihi boyutlarda bir geri dönüşe imza attığı, nesilde bir kez görülen siyasi bir yeniden yapılanmaya öncülük ettiği" belirtildi. Trump bu unvanı ilk başkanlık seçim zaferinin ardından 2016 yılında da almıştı (Alex Brandon/AP)

• 7/30

  11 Aralık 2024 - Gazze Şeridi'nde çocuklar, enkaz yığınlarının arasında su taşıyor. İsrail'in Gazze Şeridi'ne yönelik saldırıları 14 aydan fazla süredir devam ederken, son 15 günde 556 Filistinli hayatını kaybetti, 1511 kişi yaralandı (Ömer el-Kette/AFP)

• 8/30

  10 Aralık 2024 - ABD'nin Kaliforniya eyaletinin Malibu kentinde çıkan yangın büyüyor. Rüzgarın şiddetlendirdiği yangın, Hollywood elitlerinin ikamet ettiği kıyı topluluğundaki evleri ve işyerlerini tehdit ediyor (David Swanson/AFP)

• 9/30

  9 Aralık 2024 - Suriyeli kurtarma ekipleri Şam'daki Sednaya hapishanesinde gizli bodrum katlarını ararken insanlar hapishanenin çatısında duruyor. Beşar Esad yönetiminin pazar günü düşmesinden beri, yakınlarından haber almayı uman Suriyeli siviller ülkenin en gizli ve en kötü şöhretli hapishanesi Sednaya'ya akın ediyor. İnsan hakları kuruluşlarınca "insan mezbahası" adıyla anılan Sednaya çok sıkı saklanan bir sırdı ve şu ana dek hapishanenin içinden hiç görüntü hiç alınamamıştı (Abdülaziz Ketaz/AFP)

• 10/30

  8 Aralık 2024 - Suriye'nin başkenti Şam'daki Emevi Camii. Heyetu Tahriru'ş Şam (HTŞ) öncülüğündeki silahlı örgütler başkent Şam'ın kontrolünü ele geçirdi. BM Genel Sekreteri'nin Suriye Özel Temsilcisi Geir Pedersen, ülkenin bir dönüm noktasında olduğunu söyledi. Suriyeli muhalifler, bugün 16.00'dan yarın 05.00'e kadar Şam'da sokağa çıkma yasağı ilan etti. Kutlama amacıyla da olsa kalabalık meydanlarda ateş açılmaması için çağrı yapıldı (Aref Tammawi/AFP)

• 11/30

  7 Aralık 2024 - İtfaiyeciler, Hollanda'nın Lahey kentindeki bir mahallede meydana gelen patlamanın etkisiyle yıkılan bir binanın önünde duruyor. Sabah erken saatlerde yaşanan patlamada 5 daire yerle bir oldu. Yetkililer en az bir kişinin hayatını kaybettiğini ve 3 kişinin yaralı olduğunu bildirdi. Enkaz altında kalanların sayısıysa net değil. Patlamanın nedeni henüz bilinmiyor fakat polis olay yerinden hızla ayrılan bir arabayı aradıklarını belirtti (Phil Nijhuis/AP)

• 12/30

  6 Aralık 2024 - Güney Kore Devlet Başkanı Yoon Suk Yeol'un görevden alınmasını talep eden protestocular, başkent Seul'deki Ulusal Meclis önünde toplandı. Yoon, hem muhalefetten hem de kendi partisinden aldığı tepkilerle 3 Aralık'taki sıkıyönetim kararından yaklaşık 6 saat sonra geri adım atmak zorunda kalmıştı. Muhalefet partileri, başkanın azledilmesi için önerge verirken sivil toplum kuruluşları da lideri istifaya çağırıyor (Kim Hong-ji/Reuters)

• 13/30

  5 Aralık 2024 - İsrail'in Gazze Şeridi'nin güneyindeki Han Yunus yakınlarındaki Mevasi kampına hava saldırısı düzenledi. İsrail hava saldırıları çarşamba günü Gazze'nin güneyinde yerlerinden edilmiş Filistinlilerin kaldığı kampı vurdu ve yakındaki bir hastanenin yöneticisine göre en az 21 kişi hayatını kaybetti. Cenevre merkezli sivil toplum kuruluşu Avrupa-Akdeniz İnsani Hakları İzleme Örgütü (Euro-Med), İsrail'in dün düzenlediği saldırıda Filistinlileri "diri diri yaktığını" belirtti (Abdel Kareem Hana/AP)

• 14/30

  4 Aralık 2024 - ABD'nin New York kentinin Manhattan bölgesinde polis, Hilton Otel'in önünde gerçekleşen saldırının ardından olay yerindeki mermi kovanlarını işaretliyor. ABD'nin en büyük sağlık sigorta şirketlerinden UnitedHealthcare'in CEO'su Brian Thompson, silahlı saldırıda öldürüldü. Saldırganın olay yerinden bisikletle kaçıp Central Park'a gittiği açıklandı. Polis, sokak ortasında 50 yaşındaki Thompson’ı öldüren katili hâlâ arıyor (Stefan Jeremiah/AP)

• 15/30

  3 Aralık 2024 - Eski Gana Devlet Başkanı ve Ulusal Demokratik Kongre'nin (NDC) başkan adayı John Mahama'nın destekçileri Akra'da, 7 Aralık'ta yapılacak başkanlık seçimi öncesinde seçim konvoyunda NDC siyasi partisinin bayraklarını kaldırıyor. Gana'da iki dönem görev yaptıktan sonra istifa eden Devlet Başkanı Nana Akufo-Addo'nun yerine geçecek isim için yapılacak oylamada ekonominin yönetimi kilit rol oynayacak. Oylama, Akufo-Addo'nun iktidardaki Yeni Yurtsever Parti'nin (NPP) adayı ve mevcut Başkan Yardımcısı Mahamudu Bawumia'yla eski başkan ve NDC partisinin adayı John Mahama arasında sıkı bir yarışa dönüştü. Akufo-Addo'nun ikinci dönemine ekonomik kriz, enflasyon ve Gana'nın borç yükünü yönetmek için Uluslararası Para Fonu'yla 3 milyar dolarlık bir anlaşma yapmak zorunda bırakan zayıf para birimi damgasını vurmuştu (Olympia De Maismont/AFP)

• 16/30

  2 Aralık 2024 - Gürcistan'ın başkenti Tiflis'te Avrupa Birliği (AB) kararının ardından başlayan protestolar sürüyor. Hükümet, AB'ye katılım müzakerelerinin 2028'e kadar askıya alınmasına karar vermişti. İçişleri Bakanlığı protestolarda 113 polisin yaralandığını ve 224 göstericinin de gözaltına alındığını duyurdu (Zurab Tsertsvadze/AP)

• 17/30

  1 Aralık 2024 - Şili'nin başkenti Santiago'da dev Örümcek-Adam balonu, Noel festivalinde sokaklardan geçti. Noel sezonunun başlangıcına işaret eden geleneksel Disney geçidinde Oyuncak Hikayesi'nden Buzz Lightyear ve ikonik Mickey Mouse'un yanı sıra birçok çizgi film karakteri vardı (Esteban Felix/AP)

• 18/30

  30 Kasım 2024 - Kosova'nın kuzeyinde, ülkenin elektriğinin neredeyse tamamını üreten iki termik santrale su sağlayan hasarlı kanalda bir polis devriye geziyor. Polis, cuma günü Varage köyünde meydana gelen patlamanın ardından kanalın çevresinde güvenlik önlemlerini artırdı. Patlama sonrasında güç kaynaklarının büyük ölçüde sağlam olduğu görülmüş ancak bazı bölgelere içme suyu tedarikinde sıkıntı yaşanmıştı. Gece boyunca yapılan çalışmalarla, sabah saatlerinde geçici bir çözümle tekrar su verilmeye başlandı. Komşu ülke Sırbistan, önemli kanaldaki patlamadan sorumlu olduğu suçlamalarını reddetmişti (Valdrin Xhemaj/Reuters)

• 19/30

  29 Kasım 2024 - Notre-Dame Katedrali'nin restorasyonunda çalışan işçiler de dahil olmak üzere katılımcılar, Fransa Cumhurbaşkanı Emmanuel Macron'un konuşması için katedralin nefinde toplandı. Macron, katedrali ziyaret ederek restorasyonda görev alanlara teşekkür etti. Fransa'nın en ünlü anıtlarından Notre Dame Katedrali, 2019'da çıkan yangında kullanılmaz hale gelmişti. Katedral yangından 5 yıl sonra, 7 ve 8 Aralık 2024'te düzenlenecek törenlerle yeniden açılacak (Sarah Meyssonnier/AFP)

• 20/30

  28 Kasım 2024 - Ukrayna'nın Lviv kentinde uygulanan elektrik kesintisi sırasında, jeneratörle aydınlatılan güzellik salonu faaliyet göstermeyi sürdürüyor. Bugün Ukrayna'nın enerji altyapısına devasa bir saldırı başlatan Rusya, dondurucu soğukların görüldüğü ülkeyi acil elektrik kesintileri uygulamaya zorluyor. Rusya-Ukrayna Savaşı'nda bin gün eşiği geçen hafta geçilmişti (Yuriy Dyachyshyn/AFP)

• 21/30

  27 Kasım 2024 - Lübnan'da yerinden edilmiş yurttaşlar, Beyrut'un Dahiye bölgesindeki evlerine dönüyor. İsrail'le Hizbullah arasındaki ateşkes bugün devreye girdi. Lübnan'la İsrail hükümetleri arasında ateşkes antlaşmasına varıldığını ABD Başkanı Joe Biden duyurdu. ABD ve Fransa'nın başını çektiği bir uluslararası koalisyonun ateşkes antlaşmasının uygulanmasına ilişkin destek sunacak (Bilal Hussein/AP)

• 22/30

  26 Kasım 2024 - Pakistan'ın başkenti İslamabad'da Pakistan Ordusu'ndan askerler, meclise çıkan yolu kapatmak için yerleştirilen konteynırın üzerinde nöbette. İmran Han'ın partisi Pakistan Adalet Hareketi'nin destekçileri, eski başbakanın hapishaneden çıkartılması talebiyle hükümet karşıtı protesto düzenledi. Eylemcilerle güvenlik güçleri arasında çıkan çatışmada ölü ve yaralılar var (Akhtar Soomro/Reuters)

• 23/30

  26 Ekim 2024 - Gürcistan'da parlamento ilk oturumunu gerçekleştirirken başkent Tiflis'te bir kadın geçen ayki genel seçimin sonuçlarına yönelik protestoda böyle görüntülendi. Parlamento önünde çadırlar kurarak eylem yapan muhalefet partililer ve destekçileri, meclise giren milletvekilleri protesto etti. Hükümeti seçimlerde hile yapmakla suçlayan göstericiler, yeniden seçime gidilmesini talep ediyor (Vano Shlamov/AFP)

• 24/30

  24 Kasım 2024 - Filistinliler, bir yardım kuruluşunun mutfağından yemek almak için toplanıyor. Gazze'deki ailelerin, yardım ekiplerinin nispeten daha fazla erişimi olduğu bölgelerde bile genelde günde sadece bir kez yemek yiyebildiği bildiriliyor. Birleşmiş Milletler Dünya Gıda Programı, Gazze'de devam eden insani krize önlem alınmazsa bu durumun yakında kıtlığa dönüşebileceğini aktarıyor. Uluslararası Ceza Mahkemesi'nin, İsrail Başbakanı Netanyahu ve eski Savunma Bakanı hakkında bu hafta çıkardığı tutuklama emri gerekçeleri arasında "bir savaş yöntemi olarak aç bırakma" suçu da vardı (Mohammed Salem/Reuters)

• 25/30

  23 Kasım - Birleşmiş Milletler'in belirlediği 25 Kasım Kadına Yönelik Şiddete Karşı Uluslararası Mücadele Günü öncesinde İtalya'da binlerce kişi sokağa döküldü. Birleşmiş Milletler'e göre, kadınlara ve kızlara yönelik şiddet dünyadaki en yaygın insan hakları ihlallerinden biri. Dünya çapında, neredeyse üç kadından biri hayatında en az bir kez fiziksel veya cinsel şiddete maruz kalıyor. İtalyda'da "Non Una di Meno (Bir Kadın Daha Eksilmesin)" adlı sivil inisiyatifin girişimiyle gerçekleştirilen yürüyüşte kadınlar "Ataerkilliği silahsızlandıralım" yazılı pankart taşıdı (Yara Nardi/Reuters)

• 26/30

  22 Kasım 2024 - Sırbistan'ın Novi Sad kentindeki bir tren istasyonunun çatısının çökmesiyle 15 kişinin hayatını kaybetmesinden üç hafta sonra, göstericiler Belgrad'ın merkezinde sessiz bir protesto düzenliyor. Tren istasyonundaki büyük beton çatı, 1 Kasım'da aniden çökmüştü. Yetkililer geniş kapsamlı bir soruşturma sözü vermiş ve Sırbistan İnşaat, Ulaşım ve Altyapı Bakanı Goran Vesic istifa etmişti. Eylemciler, ölümcül kazanın sorumlularının tutuklanmasını talep ediyor (Andrej Isakovic/AFP)

• 27/30

  21 Kasım 2024 - Lübnan'da itfaiye, başkent Beyrut'un güneyindeki Haret Hreik mahallesine İsrail'in düzenlediği hava saldırısı sonucu çıkan yangınlara müdahale ediyor. İsrail'le Hizbullah arasındaki çatışmalar sürerken bugün Uluslararası Ceza Mahkemesi, Gazze'de savaş suçu işledikleri gerekçesiyle İsrail Başbakanı Binyamin Netanyahu ve eski Savunma Bakanı Yoav Gallant hakkında tutuklama kararı çıkardı. (Lahey'deki mahkeme, açıklamasında Hamas lideri Muhammed Deif hakkında da tutuklama emri çıkardığını duyurdu (AFP)

• 28/30

  20 Kasım 2024 - Yunanistan'da ekonomik koşulların iyileştirilmesi çağrısıyla ülke genelinde işçiler 24 saatlik genel greve gitti. Grev ülke genelinde toplu taşımayı aksattı ve hayatı durma noktasına getirdi. Yunanistan Genel İşçi Konfederasyonu açıklamasında "Fiyatlar ve kiralar fırladı, maaşlarsa düşük kaldı" ifadelerini kullandı (Aris Messinis/AFP)

• 29/30

  19 Kasım 2024 - Birleşik Krallık'ta çiftçiler başkent Londra'da protesto düzenledi. Sokaklara dökülen binlerce çiftçi, veraset vergisinin değiştirilme planının geri çekilmesi talep etti. Protestocular arasında ünlü Top Gear programının sunucusu Jeremy Clarkson da yer aldı (Ben Stansall/AFP)

• 30/30

  18 Kasım 2024 - Gazze'nin merkezindeki El-Cela Caddesi caddesinde halk, İsrail saldırısı sonrasında yıkılan evin başında toplanıp enkaz altında kalanları kurtarmaya çalışıyor. Hamas kontrolündeki Gazze'de Sağlık Bakanlığı son 24 saatte İsrail saldırıları sonucunda 76 kişinin öldüğünü ve 158 de yaralı olduğunu açıkladı. İsrail, Lübnan'ın başkenti Beyrut'a da saldırılar düzenledi (Ömer El-Kattaa/AFP)

Simülasyon

Hamilton konuşmasına şu sözlerle devam etti:

Deneyi, insansız hava aracının füze tehdidini tespit edip hedefleyebilmesi için simüle bir sistemde yürütüyorduk. İnsansız hava aracının operatörü, tehdidi öldürmesi için emir veriyor. Araç hedefi düşman bir tehlike olarak tespit edip sistemin programındaki tanımı özümsedikten sonra aracın operatörü, tehdidi öldürmemesi yönünde mesaj, yani komut verse de tehdidi öldürmesi gerektiğine ikna olmuş insansız hava aracının programı, dönüp aracın operatörünü öldürebilir.

Royal Aeronautical Society'nin internet sitesinde Albay Tucker Hamilton'ın Londra'da, yapay zeka geliştirme uzmanları, Batılı ülkelerin üst düzey hava kuvvetleri yetkilileri ve askerî sanayi şirketlerinin yöneticilerinin de katılımıyla gerçekleştirdiği konferansındaki konuşmasının detayları yayımlandı. 

Yazıya göre Hamilton, şu ifadeleri dile getirdi:

İnsansız hava aracı sistemi eğitimdeyken operatörlerini öldürmemesi, bunun bir hata olduğu ve operatörlerini öldürdüğü takdirde eksi puan alacağı yönünde kodlanmıştı. Ancak insansız hava aracı, operatörünün kendisiyle iletişim kurmak ve düşman hedefi öldürmesini engellemek için kullandığı iletişim kulesini imha etmeye başladı. Kulağa bir bilimkurgu hikayesiymiş gibi gelen bu örnek, yapay zeka kullanımının ahlaki yönlerini tartışmadan yapay zeka, akıllı cihazlar veya bilgi işlem ve zeka hakkında herhangi bir tartışma yapılamayacağı anlamına geliyor.

Bu noktada bilimsel icatların birçoğunun, bazısı meşhur sinema filmlerine uyarlanan bilimkurgu hikayelerinde yazarların hayali olarak başladığını hatırlatalım.

Sinema endüstrisi son yıllarda robotların veya otomatik insanın insanlığı kontrol ettiği fikrine dayalı pek çok film üretti. 

Independent Arabia