Yeni bir araştırma, yapay zeka sistemlerindeki büyük bir güvenlik açığının insan hayatını tehdit edebileceğini ileri sürdü.

Araştırmacılar, karar vermek için yapay zeka kullanan robotik sistemlerin bozulabileceğine ve bu sistemlerin güvenli olmadığına dair uyardı.

Yeni çalışma, ChatGPT gibi sistemlerin temelini oluşturan geniş dil modelleri teknolojilerini inceledi. Benzer teknolojiler, gerçek dünyadaki makinelerin kararlarını yönetmek üzere robotikte de kullanılıyor.

Ancak Pensilvanya Üniversitesi'ndeki yeni araştırma, bu teknolojilerde, hackerların sistemleri istenmeyen şekillerde kullanmak için suiistimal edebileceği güvenlik açıkları ve zayıflıkları olduğunu ileri sürüyor.

Üniversitede profesör olan George Pappas "Çalışmamız, geniş dil modellerinin bu noktada fiziksel dünyaya entegre etmek için yeterince güvenli olmadığını gösteriyor" dedi.

Profesör Pappas ve meslektaşları, halihazırda kullanılan bir dizi sistemdeki güvenlik önlemlerini aşmanın mümkün olduğunu kanıtladı. Örneğin bir otonom sürüş sisteminin, arabayı yaya geçidine sürecek şekilde hacklenebileceğini gösterdiler.
 

Fotoğraflarla dünyadan haberler

Hepsini göster 30

Fotoğraflarla dünyadan haberler

• 1/30

  17 Ekim 2024 - İngiliz pop müzik grubu One Direction'ın eski üyesi Liam Payne, Arjantin'de kaldığı otelin üçüncü katından düştükten sonra hayatını kaybetti. Arjantin Polisi, Payne'in başkent Buenos Aires'te Casa Sur adlı otelde kaldığını, "uyuşturucu ve alkol tesiri altında olma ihtimali bulunan agresif bir adam" hakkında gelen şikayet üzerine otele gittiklerini açıkladı. Arjantinli sağlık yetkilileri, otopsi yapılacağını belirtti (Agustin Marcarian/Reuters)

• 2/30

  16 Ekim 2024 - İtalyan lüks marka grubu Prada ve Houston merkezli girişim Axiom Space, NASA'nın Artemis 3 Ay misyonunda kullanılacak bir uzay giysisinin tasarımını İtalya'nın Milano kentinde tanıttı. NASA'nın Ay'ın güney kutbuna gerçekleştireceği ilk insanlı görevde Ay'da yürüyen astronotlar bu kıyafeti giyecek. Artemis 3 görevinin Eylül 2026'da gerçekleştirilmesi bekleniyor (Marco Bertorello/AFP)

• 3/30

  15 Ekim 2024 - Güney Kore'nin sınır kenti Paju'dan Kuzey Kore'nin Kaesong şehrine giden yolda, Tongil Köprüsü'ndeki askeri kontrol noktasının son hali. Güney Kore ordusu, Pyongyang'ın ordusu iki ülkeyi birbirine bağlayan yollarda patlamalar gerçekleştirince ağır tahkimatlı sınır yakınlarında "karşı ateş" harekatları yürüttüğünü açıkladı. Kuzey Kore, Güney Kore'nin Pyongyang'a drone uçurduğu iddiasının ardından ordusunun "ateş gücünü" harekete geçirmek için hazır olduğunu söylemişti. Kuzey Kore Savunma Bakanlığı, Kore yarımadasında "her an savaş çıkabileceği" uyarısında bulunmuştu (Jung Yeon-Je/AFP)

• 4/30

  14 Ekim 2024 - Gazze Şeridi'nin merkezindeki Deyr El Balah'ta çocuklara çocuk felci aşısı yapıldı. UNICEF, Gazze Şeridi'ndeki 640 binden fazla çocuğu tamamen aşılamayı hedefliyor. UNICEF'in icra direktörü Catherine Russell, çocuklara bağışıklık sistemlerini güçlendirmek için A vitamini takviyesi sağlanacağını kaydetmiş, Gazze'de çocukların hijyen standartlarının çok kötü olduğunu belirtmişti (Eyad Baba/AFP)

• 5/30

  13 Ekim 2024 - Japonya'nın başkenti Tokyo'nun Kagurazaka mahallesinde düzenlenen Cadılar Bayramı öncesi etkinliğine katılanlar kedi temalı kostümlerini giyip "Bake Neko" (Doğaüstü Kedi) festivaline katıldı. Bake Neko, 2010'dan bu yana her yıl ekim ortasında düzenleniyor. Kagurazaka'da kedi temalı bir geçit töreni düzenlenmesinin nedeni, ünlü Japon romanı "Ben Bir Kediyim"in yazarı Natsume Soseki'nin bu bölgede yaşamış olması (Philip Fong/AFP)

• 6/30

  12 Ekim 2024 - Hindistan'ın Haryana eyaletinde, Hindu tanrısı Hanuman gibi giyinen kişiler, Dussehra festivali için düzenlenen geçit töreninde dans ediyor. Her yıl kutlanan festival, iyiliğin kötülüğe karşı zaferini simgeliyor. Ancak bu yıl Bangladeş'teki Dussehra kutlamaları Hindulara karşı artan saldırıların gölgesinde kaldı. Ülkede 1 Ekim'den bu yana kutlamalarla bağlantılı 35 şiddet olayı yaşandığı bildirilmişti. Hindistan, Bangladeş'teki Hindu tapınaklarına yönelik saldırıları kınayarak komşu ülkeye tüm azınlıkların güvenliğini sağlama çağrısı yaptı (Anushree Fadnavis/Reuters)

• 7/30

  11 Ekim 2024 - Milano'daki iklim değişikliği ve Filistin'e destek eylemine katılan İsveçli aktivist Greta Thunberg slogan atıyor. Thunberg'in kurulmasına destek verdiği iklim değişikliği hareketi Fridays For Future'ın düzenlediği yürüyüşe, binin üzerinde kişi katıldı. Protestoda, Filistinlilerin simgesi haline gelmiş kefiye adlı geleneksel atkıyı takan Thunberg, "Filistinlilerin onlarca yıldır apartheid rejiminin boğucu baskısı altında yaşadığını" söyledi. Küresel ısınmayla silah endüstrisi arasındaki ilişkiye vurgu yapan aktivist "İklim adaleti mücadelesi, fosil yakıt endüstrisine karşı olduğu kadar, silah endüstrilerine, askerileşmeye ve doğal kaynakların aşırı çıkarılmasına karşı da bir mücadeledir" dedi (Piero Cruciatti/AFP)

• 8/30

  10 Ekim 2024 - Milton Kasırgası ABD'nin Florida eyaletinde yıkıma yol açtı. Şiddetli yağmurlar ve rüzgarlar sonucu evler yıkıldı ve milyonlarca kişi elektriksiz kaldı. İç Güvenlik Bakanlığı en az 10 kişinin öldüğünü açıkladı. Yetkililer rüzgarların hızının saatte 150 kilometreye ulaştığını söyledi. ABD Başkanı Joe Biden, sosyal medya üzerinden yaptığı paylaşımda "Yardım yolda ancak gelene kadar, yerel yetkilileriniz dışarı çıkmanın güvenli olduğunu söyleyene kadar yerinizde kalın" dedi (Bryan R. Smith/AFP)

• 9/30

  9 Ekim 2024 - Milton Kasırgası'nın Havana'dan geçişi şiddetli yağmurlara neden oldu. Helene Kasırgası'nın üzerinden iki hafta geçmemişken yeni bir kasırga ABD'nin Florida eyaletine doğru yaklaşıyor. Bugün eyalete ulaşması beklenen kasırga öncesinde eyalette yıllardır görülmediği kadar büyük bir tahliye çalışması yürütülüyor. ABD Başkanı Joe Biden, Milton Kasırgası’nın "Son 100 yılda ABD’deki en kötü fırtınalardan biri" olabileceği uyarısında bulundu. Milton Kasırgası'nda rüzgarların saatte 270 km hıza ulaşabileceği söyleniyor (Yamil Lage/AFP)

• 10/30

  8 Ekim 2024 - Yokoluş İsyanı Cape Town, Güney Afrika'nın başkentinde gerçekleşen Afrika Petrol Haftası Konferansı'nın düzenlendiği salonun önünde, fosil yakıtların süregelen kullanımını böyle protesto etti (Rodger Bosch/AFP)

• 11/30

  7 Ekim 2024 - Gazze Şeridi'nin güneyindeki Han Yunus kentinde Filistinli bir çocuk, İsrail saldırıları sonucunda yıkılmış binanın üzerinde. 1 yıl önce bugün Hamas, İsrail'e gerçekleştirdiği saldırıda 1139 kişiyi öldürmüş ve yaklaşık 250 kişiyi rehin almıştı. Aradan geçen bir senede İsrail, Gazze'de en az 41 bin 870 kişiyi öldürdü ve bu sayının aslında çok daha fazla olduğu tahmin ediliyor. Binlerce kişi yıkılan binaların enkazı altında kaldı ya da kendilerinden haber alınamıyor. Binlercesinin daha devam eden bombardıman ve İsrail'in savaşının yarattığı koşullar nedeniyle ölmesi muhtemel. Son 12 aydaki gelişmelerle Ortadoğu bir kez daha topyekün savaşın eşiğine geldi (Mohammed Salem/Reuters)

• 12/30

  6 Ekim 2024 - İspanya'nın Katalonya bölgesinin Tarragona kentinde düzenlenen 26. İnsan Kulesi Yarışması'nda Colla Vella dels Xiquets de Valls ekibi insan kulesi oluşturuyor. Katalonya'daki festivallerde düzenlenen geleneksel insan kulesi yarışmalarında takımlar kule oluşturup bozarak mücadele ediyor. İlki 1932'de yapılan etkinlik o zamandan beri iki yılda bir gerçekleştiriliyor (Lluis Gene/AFP)

• 13/30

  5 Ekim 2024 - Binlerce Oromo, Irreecha festivali için Etiyopya'nın başkenti Addis Ababa'da bir araya geldi. Irreecha kutlamalarında geleneksel kostümler giyerek suya çiçekler daldırıyor ve kendi üzerlerine su serpiyorlar. Etiyopya'nın en kalabalık etnik grubu olan Oromoların yağmur mevsiminin bitişini kutladığı festival, zaman zaman siyasi protestolara da sahne oluyor. 2016'da polisin hükümet karşıtı protestocuları dağıtmak için göz yaşartıcı gaz kullanması ve havaya ateş açmasıyla festivalde 50'den fazla kişi hayatını kaybetmişti (Tiksa Negeri/Reuters)

• 14/30

  4 Ekim 2024 - Bir kedi Beyrut'un güneyindeki bir mahallede, İsrail'in hava saldırıları sonucunda hasar gören sokakta dolaşıyor. İsrail, üç gün önce kara harekatı başlattığı Lübnan’a saldırmayı sürdürüyor. Hizbullah'a yakın bir kaynak, AFP'ye İsrail'in Beyrut'un Dahiye bölgesini üst üste 11 kere vurduğunu aktardı. Lübnanlı yetkililer, çatışmalar nedeniyle 1,2 milyon kişinin yerinden edildiğini bildirdi (AFP)

• 15/30

  3 Ekim 2024 - ABD'nin Kuzey Carolina eyaletinin Swannanoa kentinin sakinleri, Helene Kasırgası'nın arkasında bıraktığı yıkımın ortasında. Geçen hafta ülkenin güneydoğusunu vuran kasırganın yol açtığı can kayıplarının sayısı 189'a yükseldi. Toplam 6 eyalette kayıp onlarca kişiyi arama çalışmaları sürerken, 1 milyondan fazla ev ve iş yerinde elektrik hâlâ yok (Eduardo Munoz/Reuters)

• 16/30

  2 Ekim 2024 - Meksika'da 1968'deki Tlatelolco Meydanı katliamının 56'ıncı yıldönümüde bir eylemci, polisle çatışıyor. Sözkonusu katliamda ordu, öğrencileri vurarak öldürmüştü. Meksika'nın göreve yeni başlayan başbakanı Claudia Sheinbaum, kendisine "1968 çocuğu" diyerek resmi bir özür yayımladı (Daniel Becerril/Reuters)

• 17/30

  1 Ekim 2024 - İsrail, İran'dan İsrail'e füze saldırısı gerçekleştirildiğini ve Tel Aviv başta olmak üzere ülke genelinde sirenlerin çaldığını duyurdu. İran'ın Birleşmiş Milletler Daimi Temsilciliği'nden "Eğer siyonist rejim cevap vermeye kalkarsa daha yıkıcı bir karşılık gelir" açıklaması yapıldı. Öte yandan ABD Başkanı Joe Biden, ABD ordusuna, İran saldırılarına karşı İsrail savunmasına yardımcı olma ve İsrail'i hedef alan füzeleri vurma talimatı verdi (Ahmad Gharabli/AFP)

• 18/30

  30 Eylül 2024 - Göçmenlerle dolu bir fiberglas tekne, İspanya'nın El Hierro adasının La Restinga limanında. Dün yine bu adanın açıklarındaki bir göçmen teknesi batmış, 84 kişiden 9’u hayatını kaybetmiş ve 48’i kaybolmuştu. Son yıllarda binlerce göçmen Avrupa’ya ulaşmak için Atlantik’e açılırken hayatını kaybediyor. İspanya'ya doğru düzensiz göçmen sayısı son 1 yılda yüzde 66,2 artarken, El Hierro'nun da bağlı olduğu Kanarya Adaları grubu en çok göçmen alan yer olarak öne çıkıyor (Borja Suarez/Reuters)

• 19/30

  29 Eylül 2024 - Hizbullah'ın lideri Hasan Nasrallah'ın ölümünün ardından üç gün milli yas ilan edilen Irak'ın Sadr kentinde yas tutanlar sembolik bir tabutla anma töreni düzenledi. İsrail ordusu Lübnan'ın başkenti Beyrut'taki son saldırılarda Hizbullah'ın ana karargahını hedef almış ve Nasrallah'ın öldürüldüğünü duyurmuştu (Ahmad Al-Rubaye/AFP)

• 20/30

  28 Eylül 2024 - İsrail'in Beyrut'a düzenlediği hava saldırısında Hizbullah lideri Hasan Nasrallah'ın öldüğünün günün erken saatlerinde duyulmasıyla birlikte muhaliflerin kontrolündeki İdlib'de yaşayanlar toplandı. Sosyal medyada dolaşan videolarda, Esad'ın müttefiki Nasrallah'ın ölüm haberinin İdlib'de pek de üzüntüyle karşılanmadığı görüldü. Lübnan'ın açıkladığı rakamlara göre savaşın başlangıcından bu yana İsrail'in düzenlediği saldırılarda hayatını kaybedenlerin sayısı 783'e yükseldi (Omar Haj Kadour/AFP)

• 21/30

  27 Eylül 2024 - Saint Petersburg'de düzenlenen askeri festivaldeki yarışmalara katılan bir askeri-vatanseverlik gençlik kulübü üyesi, taş duvarın üzerinden atlıyor. Rusya'da son yıllarda, gençlerin vatanseverlik duygularını güçlendirmeye ve askeri eğitimine büyük bir yatırım yapılıyor. Etkinlik, özellikle Ukrayna'yla savaşın başlangıcından bu yana, Rus toplumunda görülen geniş çaplı askerileşmenin bir örneği (Olga Maltseva/AFP)

• 22/30

  26 Eylül 2024 - Gazze Şeridi'nin güneyindeki Han Yunus'ta Filistinli bir adam, İsrail saldırısında yıkılan evinin altında. Bir yandan Gazze Savaşı sürerken, ABD ve müttefiklerinin acil ateşkes çağrısına karşın, İsrail Lübnan'daki saldırılarını sürdürüyor. Filistin Devlet Başkanı Mahmud Abbas, Birleşmiş Milletler 79. Genel Kurulu'nda yaptığı konuşmada, İsrail'in Lübnan halkına da soykırım uyguladığını söyledi (Hatem Khaled/Reuters)

• 23/30

  25 Eylül 2024 - Ukrayna'nın Donetsk bölgesindeki Kramatorsk kentine Rusya'nın düzenlediği hava saldırısı sonrasında konutlar ağır hasar aldı. Rusya'nın Ukrayna'yı topyekün istilasıyla başlayan savaşta tam 943 gün geride kaldı. Bugün Birleşmiş Milletler Güvenlik Konseyi'ne hitap eden Ukrayna Devlet Başkanı Volodimir Zelenski, Rusya Devlet Başkanı Vladimir Putin'in uluslararası kuralları çiğnediğini ve "barışa zorlanması" gerektiğini belirtti. Savaşta Kremlin yönetiminin "tek saldırgan" taraf olduğunu söyleyen Zelenski, bu kış Rusya'nın bir kez daha ülkesinin enerji sistemlerini yok etmeye, nükleer santrallerini hedef almaya hazırlandığını ve bu konuda kanıtlara sahip olduklarını savundu (Evgeniy Maloletka/AP)

• 24/30

  24 Eylül 2024 - İsrail'in hava saldırıları sırasında güneydeki köyünden kaçan Lübnanlı bir kadın, çocuklarıyla birlikte Sidon'daki bir halk plajında. Lübnan iç savaşından bu yana yaşanan en ölümcül saldırıda 50'si çocuk 558 kişinin hayatını kaybetmesinden bir gün sonra, İsrail hava saldırılarını sürdürüyor. Ülkenin güney bölgelerinden başkent Beyrut'a ve kuzey bölgelerine göç dalgası devam ediyor (Mohammed Zaatari/AP)

• 25/30

  23 Ağustos 2024 - Afganistan'ın Kandehar vilayetinin Daman kentinde bir Afgan kadın pamuk topluyor. Yakın zamanda devreye giren kanunlara göre Afganistan'da kadınların eşleri ve akrabaları haricindeki erkeklerle göz temasında bulunması ve seslerinin toplum içinde duyulması artık resmen yasak. Kız çocuklarının 6. sınıftan sonra okumasının yasaklanması ve kadınların üniversitelere girişinin engellenmesi gibi kararlar, üç yıl önce ABD'nin çekilip Taliban'ın iktidara gelmesiyle birlikte uygulanmaya başlamıştı (Sanaullah Seiam/AFP)

• 26/30

  22 Eylül 2024 - Mercedes'in Britanyalı pilotu George Russell, Marina Bay sokak pistinde gerçekleştirilen Formula 1 Singapur Grand Prix'sinde. McLaren'in 24 yaşındaki pilotu Lando Norris açık ara farkla birinci olurken, pilotlar şampiyonasında kovaladığı Max Verstappen ikinci sırada yer alarak puan farkını korumaya çalıştı. McLaren'in diğer pilotu Oscar Piastri ise podyumu tamamladı. Formula 1'de sezonun bitimine 6 yarış kalmışken Verstappen ve Norris'in arasında 52 puanlık fark var (Edgar Su/Reuters)

• 27/30

  21 Eylül 2024 - Paris'in güneyindeki Gentilly'de, Maca_dessine imzalı duvar resminde, Gisele Pelicot'yla birlikte "Utanç karşı tarafa geçsin diye" cümlesi yer alıyor. 71 yaşındaki Dominique Pelicot, yaklaşık 10 yıl boyunca Gisele'e ilaç vererek tecavüz etmekle ve ona tecavüz etmek üzere onlarca yabancıyı eve çağırmakla suçlanıyor. Fransa'yı dehşete düşüren davada, yaşları 26'yla 74 arasında değişen 50 erkek de olaya karıştıkları iddiasıyla yargılanıyor. Aralığa kadar sürecek dava, Dominique Pelicot'un eski eşi Gisele'in talebiyle halka açık bir şekilde yürütülüyor (Geoffroy Van der Hasselt/AFP)

• 28/30

  20 Eylül 2024 - Yaklaşık 327 kişi taşıyan 2 teknenin kurtarılmasının ardından göçmenler, Kanarya Adaları'ndan El Hierro'daki La Restinga limanında, İspanyol Salvamento Maritimo'nun (Deniz Arama ve Kurtarma Ajansı) gemisinden inmeyi bekliyor. Afrika'dan Kanarya Adaları'na gelen göçmen sayısındaki artış, İspanya'da düzensiz göçe dair şiddetli tartışmaları alevlendirdi. Bu yıl halihazırda 22 binin üzerinde göçmen Kanarya Adaları'na ulaşmışken geçen yıl aynı dönemlerde bu sayı 10 binden biraz daha azdı (Antonio Sempere/AFP)

• 29/30

  19 Eylül 2024 - Tayland'daki Khao Keow Hayvanat Bahçesi'nde iki aylık hipopotam yavrusu Moo Deng, bakıcısıyla oynuyor. Sevimli yavru su aygırının Facebook'ta paylaşılmasından sadece bir ay sonra ünü durdurulamaz hale geldi. Onu bizzat görmek için Tayland'ın başkenti Bangkok'tan hayvanat bahçesine iki saatlik bir yolculuk yapamayan hayranları, videolarını internetten izleyebiliyor ya da sosyal medyada gezinerek hakkındaki mimleri görebiliyor. Bakıcısı, "Onun tanımasını istedim. Birçok kişinin onu ziyaret etmesini, internetten izlemesini ya da eğlenceli yorumlar bırakmasını istedim. Bunu asla tahmin edemezdim" diyor (Sakchai Lalit/AP)

• 30/30

  18 Eylül 2024 - Kuzey Kore lideri Kim Jong-un, açıklanmayan bir yerde yeni taktik balistik füzenin deneme atışını inceliyor. Güney Kore Genelkurmay Başkanlığı'ndan yapılan açıklamada yerel saatle 06.50 sıralarında Güney Phyongan eyaletindeki Kaechon bölgesinden fırlatılan füzelerin yaklaşık 400 kilometre mesafe katettiği belirtilirken, füzelerin sayısı ya da nereye düştüğü gibi ayrıntılara ilişkin bilgi verilmedi. Asya ülkesi yakın zamanda bir nükleer tesisin ilk fotoğraflarını yayımlayarak nükleer silah geliştirdiğini dünyaya ilan etmişti (KCNA/AFP)

Makaleyi yazan araştırmacılar, zayıf noktaları saptamak ve engellemek üzere bu sistemlerin yaratıcılarıyla birlikte çalışıyor. Ancak bunun için belirli açıkları kapamaktansa sistemlerin nasıl yapıldığının tamamıyla yeniden düşünülmesi gerektiğini vurguladılar.

Pensilvanya Üniversitesi'nden başka bir ortak yazar "Bu makaledeki bulgular, sorumluluk sahibi inovasyon için güvenliğe öncelik veren bir yaklaşımın çok önemli olduğunu açıkça gösteriyor" dedi.

Yapay zeka destekli robotları gerçek dünyada kullanmadan önce yapısal sorunlarını ele almalıyız.

Aslında araştırmamız, robotik sistemlerin yalnızca sosyal normlara uygun eylemleri gerçekleştirebildiğinden (ve gerçekleştirmesi gerektiğinden) emin olan bir doğrulama ve onaylama çerçevesi oluşturmaya yönelik.

 

*İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir.

independent.co.uk/news

Independent Türkçe için çeviren: İdil Barım