OpenAI'dan uyarı: ChatGPT seçimlere müdahale etmek için kullanılıyor

Çin, İran ve Rusya'daki rejimlerle bağlantılı hack grupları 54 sayfalık raporda şüpheli olarak gösterildi

(Reuters)

OpenAI, yabancı hack gruplarının seçimlere müdahale etmek amacıyla kendi yapay zeka araçları ChatGPT ve Dall-E'yi kullandığı uyarısını yaptı.

fazla oku

Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)

54 sayfalık rapor, şirketin yılın başından bu yana dünya çapında 20 faaliyet tespit ettiğini ve gelecek ay yapılacak ABD başkanlık seçimi öncesinde daha fazlasının beklendiğini ortaya koydu.

ChatGPT'nin dahil olduğu manipülatif faaliyetler, internet siteleri için makaleler yazmaktan, sahte kişilikler oluşturmaya ve sosyal medyada içerik yayımlamaya kadar uzanıyordu. Bu faaliyetler arasında "sosyal medya paylaşımlarını analiz etmeye ve yanıtlamaya yönelik çok aşamalı çabalar" da yer alıyordu.

50'den fazla ülkenin sandık başına gitmiş olacağı bu yıl, şimdiye kadarki en büyük demokrasi gösterisi olarak övülüyor. Üretken yapay zekanın yakın zamanda ortaya çıkması, teknolojinin seçimleri etkilemek için olası kötüye kullanımına ilişkin endişelere yol açıyor. Bu da önde gelen birkaç firmanın müdahaleyi önlemek amacıyla özel önlemler almasına neden oldu.

OpenAI CEO'su Sam Altman geçen yıl, üretken yapay zekanın seçim doğruluğu için oluşturduğu tehdit hakkında "endişeli" olduğunu söylemiş ve ABD Kongresi'ne verdiği ifadede, daha önce hiç mümkün olmayan şekillerde dezenformasyon yaymak için kullanılabileceğini belirtmişti.

OpenAI'ın son raporunda, "Dünya genelinde seçimlerin yapıldığı bu yılda, modellerimizi sosyal medya ve diğer internet platformlarında aldatıcı kampanyaların ilerletilmesinde kullanmaya çalışabilecek devlet bağlantılı siber aktörlere ve gizli etki operasyonlarına karşı sağlam, çok katmanlı savunmalar oluşturmanın özellikle önemli olduğunu biliyoruz" dendi.

Yılın başından bu yana, dünyanın dört bir yanından modellerimizi kullanmaya çalışan 20'den fazla operasyonu ve aldatıcı ağı bozduk.

OpenAI, bazı müdahale operasyonlarında şüpheli olarak Çin, İran ve Rusya'daki rejimlerle bağlantılı hack gruplarının adını verdi.

Raporda, Batı Afrika ve Birleşik Krallık'ı (BK) hedef alan, İngilizce ve Fransızca içerik üreten "Rusya kökenli bir tehdit aktörü" de dahil çeşitli vaka çalışmaları detaylandırıldı.

"Bu operasyon kısa yorumlar, uzun makaleler ve görseller üretmek için modellerimizi kullandı. İngilizce ve Fransızca uzun makaleler daha sonra Afrika ve BK'deki haber kuruluşları gibi davranan bir grup internet sitesinde yayımlandı" dendi.

Bu operasyon, kitle oluşturma çabalarının alışılmadık bir kombinasyonunu temsil ediyordu... BK odaklı 'haber' markaları, aralarında Yorkshire'da bir kilise, Galler'de bir okul ve Kaliforniya'da bir ticaret odaları birliğinin de bulunduğu bir dizi yerel kuruluşla 'bilgi ortaklıkları' kurmuş gibi görünüyor.

Raporda kuruluşların isimleri verilmedi. The Independent daha fazla bilgi için OpenAI'a ulaşsa da yanıt alamadı.



*İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir. 

independent.co.uk/tech

Independent Türkçe için çeviren: Çağatay Koparal

© The Independent

DAHA FAZLA HABER OKU