Reddit kullanıcılarının, yapay zekanın ürettiği sahte bir kadının çıplak görüntülerine para ödediği bildirildi.

Yapay zeka aracı Stable Diffusion kullanılarak oluşturulan son derece gerçekçi Claudia karakterinin fotoğrafları, birkaç ay önce farklı Reddit forumlarında ortaya çıkmaya başlamıştı.

Bir fotoğraf yüzlerce yorum toplarken bir kullanıcı "Çok hoş görünüyorsun" yazdı ve bir diğeri de "Vay canına, çok güzelsin" diye ekledi.

Yapay zeka kandırmacasını tespit etmiş görünen bazı kullanıcılarsa fotoğrafın gerçek olamayacak kadar işlemden geçmiş gibi göründüğünü iddia etti.

Bir kullanıcı, "Farkında olmayanlar; fantezinizi sonlandıracağım" diye yazdı.

Bunu resmen yapay zeka üretmiş. Eğer görüntü üreten yapay zeka modelleriyle çalıştıysanız ve yeterince uzun süredir kendinizinkileri yapıyorsanız, yüzde 10000 öyle olduğunu anlarsınız. Sürprizi bozduğum için üzgünüm sanırım.

Claudia AI'nın yaratıcıları, onun gerçek bir kişi olduğuna inanmış görünen Reddit kullanıcılarına karakterin çıplak fotoğraflarını satarak çoktan 100 dolar kadar kazandıklarını iddia ediyor.
 

Yapay zekanın ürettiği görüntüler genellikle insan ellerini gerçekçi yapmakta zorlanıyor (Stable Diffusion)

Rolling Stone dergisine konuşan Claudia'nın yaratıcıları, "Tüm bu hesabın sadece birilerini yapay zeka fotoğraflarıyla kandırıp kandıramayacağımızı görmek için yaptığımız bir test olduğu söylenebilir" dedi.

Bunu sanal YouTuber'lara benzetebilirsiniz. Sanal YouTuber'lar kendi karakterlerini yaratıp tamamen farklı biri gibi davranır. Dürüst olmak gerekirse bu kadar ilgi çekeceğini düşünmemiştik.

Yapay zeka araştırmacıları Claudia'nın fotoğraflarının, farklı pozlarında ortaya çıkan tuhaf arka plan detayları ve lekeler de dahil, yapay zeka tarafından üretildiğini belli eden işaretler taşıdığını söylüyor.

Claudia karakteri, son zamanlarda ortaya çıkan yapay zeka difüzyon modelleriyle mümkün hale gelen yeni bir trendin parçası. Son sürümler hem kurgusal hem de gerçek insanların foto-gerçekçi tasvirlerini oluşturma imkanı sağlıyor.

Mevcut videoları düzenlemek için yapay zeka araçları kullanan deepfake pornodan farklı olarak difüzyon modelleri, eğitildikleri milyarlarca görüntüyü temel alarak yepyeni görüntüler oluşturuyor.

Claudia'nın görüntüsünün ilk ortaya çıktığı r/amIhot isimli sub-reddit bu olaydan sonra kullanıcılarının, kimliklerini kanıtlayacak 10-15 saniyelik bir video göndermesini gerektiren bir üyelik doğrulaması başlattı.

*İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir.

https://www.independent.co.uk/tech

Independent Türkçe için çeviren: Sevgi Aydoğan