Yapay zeka firması Stability AI, metinden yola çıkarak görseller üreten yazılım Stable Diffusion'ı tüm kullanıcıların erişimine açtı.
Ancak bu, çok sayıda kullanıcının yapay zeka programında pornografik görüntüler üretmesiyle sonuçlandı.
Son günlerde metinden yola çıkaran görseller oluşturan yapay zeka programları hız kazandı. Bu programlarda kullanıcılar, görüntüsünü oluşturmak istedikleri anahtar kelimeleri giriyor ve saniyeler içinde benzersiz görseller elde ediyor.
fazla oku
Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)
Söz konusu araçlardan en popüleri, Elon Musk'ın da kurucuları arasında yer aldığı Open AI firmasının DALL-E adlı yazılımı. DALL-E henüz herkesin erişimine açık değil ama internet kullanıcıları DALL-E mini sürümünü ücretsiz deneyebiliyor.
Öte yandan, Stable Diffusion'ın, DALL-E ve diğerlerinden önemli bir farkı var. Open AI ve diğer firmalar kullanıcıların bu programları kullanarak ne tür görüntüler üretebileceklerine dair sınırlar koyuyor.
Açık kaynak kodlu Stable Diffusion ise kullanıcılar tarafından istenen şekilde kullanılıyor. Dolayısıyla çoğu kullanıcı porno üretmeyi deniyor.
Aslında modelin arkasındaki firma, program herkese açılmadan önce uyarı yayımlamış ve programın cinsel amaçlı kullanılmamasını istemişti.
Şirketin Twitter hesabından yapılan açıklamada şu ifadeler yer almıştı:
Annenize göstermekten utanacağınız hiçbir şey üretmeyin.
Uyarılara rağmen programda oluşturulan içerikler, hentai'den (pornografik anime) tanınmış veya gerçekte var olmayan kişilerin çıplak hallerine kadar bir dizi görseli kapsıyor.
Bazıları son derece inandırıcı görünürken, bazı örnekler korkunç, hatalı uzuvlara ve çarpık yüzlere sahip bedenlerden ibaret.
Reddit daha şimdiden bu görüntülerin paylaşıldığı en az 4 alt grubu (subreddit) kapattı. Kapatılan gruplar arasında "r/UnstableDiffusion", "r/stablediffusionnsfw", "r/PornDiffusion", "r/HentaiDiffusion" gibi sunucular yer alıyor.
Bu 4 alt grubun kapatılmadan önce yaklaşık 2 bin üyesi olduğu tahmin ediliyor.
Öte yandan sadece Reddit'te değil, Discord'da da bu tür sunucular açıldığı belirtiliyor. Sunuculardan birini yöneten Ashley22 adlı bir kullanıcı, "Bu sunucuyu yarattım çünkü bazı görsellerin pornografik olması sorun değil" diyor:
Başka yerde bulamayacağınız birçok görselin inanılmaz derecede sanatsal ve güzel olduğunu gördüm. Erotik sanat korkusundan hoşlanmıyorum.
Independent Türkçe, VICE, Tech Times, Metro
Derleyen: Çağla Üren
