Uzmanlar uyardı: "Seçimler yapay zekayla manipüle edilebilir"

Uzmanlar yapay zekayla üretilen sahte haber ve içeriklerin daha önce görülmemiş boyuta ulaşabileceği konusunda uyarıyor

OpenAI CEO'su Sam Altman, 16 Mayıs'ta ABD Kongresi'nin "Yapay Zeka için Kurallar" başlıklı duruşmasında ifade vermişti (Reuters)

ChatGPT'nin yaratıcısı OpenAI'ın CEO'su Sam Altman, bu hafta ABD Kongresi'nde verdiği ifadede yeni nesil yapay zeka modellerinin kullanıcıları manipüle edebileceğini söyledi.

Altman, "Bu modellerin manipüle etme, ikna etme ve birebir etkileşimle yanıltıcı bilgi yayma yetenekleri endişe verici" ifadelerini kullandı.

Altman, Kongre'deki ifadesinde, "Temel olarak, bu yeni sistemler istikrarı bozacak. Bu sistemler insanlığı daha önce görmediği boyutta ikna edici yalanlar üretebiliyorlar. Dışardakiler bunu seçimlerimizi etkilemek için, içerdekilerse piyasaları ve siyasi sistemi manipüle etmek için bu sistemleri kullanabilirler. Demokrasinin kendisi tehdit altında" dedi.

fazla oku

Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)

Altman'ın bu sözleri yapay zeka temelli uygulamaların hızla geliştiği bir dönemde, gelecek yıl Birleşik Krallık ve ABD'de yapılacak seçimlerle ilgili dezenformasyon endişesini de yeniden gündeme taşıdı.

Guardian'ın haberinde, daha önce çevrimiçi propaganda için basitçe yazılmış metinleri yayan botlar ve "paralı trollerden" oluşan ekiplerin kullanıldığı ancak ChatGPT ve benzeri teknolojilerin seçimlere daha geniş çaplı bir müdahalenin önünü açtığına dikkat çekildi.

Birleşik Krallık merkezli Alan Turing Enstitüsü'nde yapay zeka üzerine çalışmalar yürüten Prof. Michael Wooldridge, yapay zeka temelli dezenformasyonun bu yeni teknolojiyle ilgili ana endişelerden biri olduğuna dikkat çekerken, "Şu anda yapay zekayla ilgili endişelerimin bir numarasında bu konu var. Birleşik Krallık ve ABD'de seçimler yaklaşıyor ve sosyal medyanın yanlış bilgi yaymak için çok güçlü bir araç olduğunu biliyoruz. Yapay zekanın da endüstriyel boyutta yanlış bilgi üretebildiğini biliyoruz" diye konuştu.

ChatGPT benzeri uygulamaların hedefli yanlış bilgi üretebileceğine dikkat çeken Wooldridge, bu yolla kırsal bölgede yaşayan bir Muhafazakar Parti seçmeninin, büyük şehirde yaşayan bir İşçi Parti seçmeninin veya ABD'nin ortabatı eyaletlerinde yaşayan bir Cumhuriyetçinin ayrı ayrı hedeflenebileceğini söyledi.

Wooldridge, biraz programlama tecrübesi olan kişilerin sahte kimliklerle ve yapay zeka yoluyla kısa süre içinde sahte haberler üretebileceği uyarısında bulundu.

 

Sahte ses kayıtları da gündemde

Yapay zekayla parelel şekilde gelişen ses klonlama teknolojilerinin kullanımı da tüm dünyada gelecek seçimlerle ilgili endişeleri artırıyor.

Ocakta ABD Başkanı Joe Biden'ın Ukrayna'ya tank gönderileceğini açıkladığı bir video ses simülasyonu teknolojisi yardımıyla trans bireylere saldırı içeren bir konuşmaya dönüştürülmüş ve sosyal medyada yayılmıştı.

Ses klonlamanın ABD merkezli ElevenLabs tarafından geliştirilen bir yazılım aracılığıyla yapıldığı anlaşılmıştı.

Benzer şekilde Bill Gates'in Kovid-19 aşılarının Aids'e neden olduğu yönündeki sahte bir konuşması da sosyal medyada yayılmıştı. 

ElevanLabs, ocakta ses klonlama teknolojisinin suistimal edildiği vakaların sayısındaki artışı kabul ederek bazı tedbirler almıştı.

ABD merkezli siber güvenlik şirketi Recorded Future'da analist olarak görev yapan Alexander Leslie bu teknolojilerin gelişmekte olduğunu ve gelecek yıl ABD'de yaşanacak seçim yarışı sırasında çok daha geniş kitleler tarafından kullanılacağını hatırlattı.

Hükümet ve teknoloji şirketlerinin şimdi harekete geçmeleri gerektiğini belirten Leslie, "Geniş çaplı bir eğitim ve farkındalık olmadan, başkanlık seçimlerine gittiğimiz şu dönemde bu teknolojiler gerçek birer tehdit olacak" dedi.

ABD merkezli dezenformasyon gözlem kuruluşu NewsGuard'dan yapılan açıklamadaysa, yapay zeka temelli haber ve bilgi sitelerinin sayısının son iki haftada ikiye katlandığı belirtildi.

Kuruluşun açıklamasında sahte haberleri tespit etmek için kullanılan yöntemleri atlatabilecek içeriklerin ChatGPT tarafından üretilebildiğine dikkat çekildi.


Independent Türkçe, Guardian, AP

DAHA FAZLA HABER OKU