Uzmanlar ve kullanıcılar, Facebook ve diğer sosyal ağlarda yayılan ve yapay zeka tarafından üretilmiş gibi görünen görsellerin giderek artması hakkında uyarıda bulundu.

Sorun, artık birçok grubun belirli bir duyguyu uyandırmayı amaçlayan görsellerle dolmasıyla alakalı: Örneğin, pastalı büyükannelerin veya rahat kulübelerin özellikle yürekleri ısıtan görüntüleri. Bazılarıysa daha sıradışı, örneğin kabuklu deniz canlılarından yapılmış bir İsa resmi gibi.

Problem öyle büyüdü ki Stanford İnternet Gözlemevi ve Georgetown Üniversitesi Güvenlik ve Gelişen Teknoloji Merkezi'nden bir grup araştırmacı, özellikle yüksek miktarda yapay zeka üretimi içeriğe sahip 100'den fazla Facebook sayfası üzerinde bir inceleme başlattı.

Henüz hakem değerlendirmesinden geçmemiş, "How Spammers and Scammers Leverage AI-Generated Images on Facebook for Audience Growth" (Spamcılar ve Dolandırıcılar Facebook'ta Kitle Büyütmek İçin Yapay Zeka Tarafından Oluşturulan Görsellerden Nasıl Yararlanıyor) başlıklı yeni makalelerinde, sorunun sosyal ağlarda takipçi sayılarını artırmak isteyen kişilerden kaynaklandığını savunuyorlar.

Yazarlar, "DALL-E ve Midjourney gibi yapay zeka görsel üreticilerinin riskleri hakkındaki araştırma ve söylemlerin çoğu, bunların siyasi söylemlere yanlış bilgi sıkıştırmak için kullanılıp kullanılamayacağına odaklanıyor" diye yazıyor. 

Görünüşe göre ideolojiyle değil, kâr veya nüfuzla motive olan spamcılar ve dolandırıcıların, Facebook'ta önemli ölçüde ilgi çekmek için yapay zeka üretimi görselleri halihazırda kullandığını ortaya koyuyoruz.

The Independent, bu ay düzenlenen bir yapay zeka etkinliğinde, orijinal haber akışını oluşturan ve Meta'nın baş ürün sorumlusu görevini yürüten Chris Cox'a bu tür sahte görsellerin artışını sormuştu.

Cox, "Etiketlemenin kesinlikle kritik olduğunu" söylemişti. Örneğin, bir akıştaki her gönderinin, ister Meta'nın kendi yapay zeka sistemlerinden biri ister Midjourney gibi diğer şirketlerin sistemleri kullanılmış olsun, yapay zeka tarafından oluşturulduğunu belirten bir mesaj içermesini gerektiren yeni kurallara dikkat çekmişti:

Buradaki hayati nokta: Her aşamada kullanıcı deneyimi. Kimsenin yaşadığı deneyime şaşırmadığından emin olmak ve gördüğümüzde yapay zekaları etiketleyen basit kullanıcı deneyimi araçlarına bel bağlamak.

Ne olursa olsun, akışlardaki yapay zeka üretimi içerik miktarı hâlâ çok az.

Ancak yeni makale, şimdilik bu gruplardan en azından bazılarının etiketlenmemiş görseller paylaştığına işaret ediyor. Bu etiketsiz görseller, grupları takip etmeyen ya da yapay zeka tarafından üretildiklerinin farkında olmayanlara bile görünebiliyor, yani insanların bunları gerçek resimlerle karıştırmasına yol açabiliyor.

Böyle bir durumda, bu görseller genellikle bir dizi destekleyici yorum alıyor. Ancak bu yorumların ne kadarının kısmen ya da tamamen yapay zeka araçları kullanılarak yazıldığı belli değil.

Bu durum bazılarının "ölü internet" korkusu duymasına yol açıyor. Bu, internetin yakında hem içerik yaratan hem de içeriğe tepki veren otomatik sistemlerle dolacağı ve böylece birçok internet sitesini insan kullanıcılara karşı giderek daha düşmanca hale getireceği fikri.

*İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir. 

https://www.independent.co.uk/tech

Independent Türkçe için çeviren: Çağatay Koparal