ChatGPT'nin yaratıcısı OpenAI, teknolojisinin yanlış bilgi yaymak ve seçimlere müdahale etmek için kullanılmasını önleme planını duyurdu.

Bu yıl 50'den fazla ülke, şimdiye kadarki en büyük demokrasi gösterisi olduğu söylenen seçimlerde sandık başına gidecek ancak üretken yapay zekanın son dönemdeki yükselişi, özgür ve adil seçimler için bir tehdit oluşturabileceği korkusuna yol açıyor.

Başlıca endişelerden biri OpenAI'ın Dall-E'si gibi araçlarla yaratılabilen deepfake görsellerle ilgili. Bunlar mevcut görselleri manipüle edebilir ya da politikacıların itibarlarını zedeleyecek yeni tasvirlerini oluşturabilir.

Potansiyel olarak kötüye kullanılabilecek bir başka yapay zeka türü de ChatGPT gibi metin tabanlı üreticiler. ChatGPT, insan elinden çıktığına ikna eden metinler yazabiliyor.

OpenAI'ın blogunda yapay zeka ve seçimlere ilişkin yazısında, "2024'te dünyanın en büyük demokrasilerinde yapılacak seçimlere hazırlanırken, yaklaşımımız doğru oylama bilgilerini yükselterek, ölçülü politikalar uygulayarak ve şeffaflığı artırarak platform güvenliği çalışmalarımızı sürdürmek" dendi.

Her yeni teknoloji gibi bu araçların da faydaları ve zorlukları var. Aynı zamanda emsalsizler ve araçlarımızın nasıl kullanıldığı hakkında daha fazla şey öğrendikçe yaklaşımımızı geliştirmeyi sürdüreceğiz.

OpenAI, teknolojisinin olası kötüye kullanımını araştırmak ve ele almak için güvenlik sistemleri, tehdit istihbaratı, hukuk, mühendislik ve politika ekiplerinin üyelerini bir araya getirdiğini belirtti.

San Francisco merkezli şirket, Dall-E aracının gerçek insanların görüntülerini oluşturma taleplerini kabul etmesini engellemek için halihazırda önlemler almış durumda fakat diğer yapay zeka girişimlerinde bu tür korumalar bulunmuyor.

Trump'ın tutuklanmasını beklerken Trump'ın tutuklandığını gösteren resimler yapmak. 

OpenAI CEO'su Sam Altman daha önce, üretken yapay zekanın seçim bütünlüğüne oluşturduğu tehdit konusunda "endişeli" olduğunu söylemiş ve mayısta ABD Kongresi'nde verdiği ifadede bu aracın "bire bir etkileşimli dezenformasyon" yaymak için yeni bir şekilde kullanılabileceğini belirtmişti.

Bu tür kötüye kullanımları önlemeye yönelik yeni tedbirler arasında, ChatGPT'de ABD'li kullanıcıları oy vermede yetkili bilgiler sunmak üzere CanIVote.org sitesine yönlendiren yeni bir özellik de yer alıyor.

OpenAI'ın sahte görüntülere simgeler yerleştirmek için İçerik İspatı ve Gerçeklik Koalisyonu'yla birlikte çalışmasıyla, yapay zeka tarafından üretilen görüntüleri tanımlamanın yeni yolları da geliştiriliyor.

Deepfake içeriğe daha önce de seçimleri etkilemek amacıyla başvurulmuş, Slovakya'da geçen yıl yapılan seçimlerde yapay zeka tarafından üretilen sesler kullanılmış ve adaylardan birinin itibarı zedelenmişti.

Birleşik Krallık İşçi Partisi de deepfake seslerin hedefi olmuş, ekimde parti lideri Keir Starmer'ın "Liverpool'dan nefret ediyorum" dediği sahte bir kayıt ortaya çıkmıştı.

Karşılaştırma sitesi Finder.com'un kısa süre önce yaptığı anket, Birleşik Krallık halkının yalnızca yüzde 1,5'inin ünlülerin ve politikacıların deepfake videolarını doğru bir şekilde tespit edebildiğini ortaya koydu.

*İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir. 

https://www.independent.co.uk/tech

Independent Türkçe için çeviren: Çağatay Koparal