Bu hafta sosyal medyanın en önemli gündemlerinden biri, Papa Francis'in hiç var olmayan montu ve Eski ABD Başkanı Donald Trump'ın sahte tutuklanmasıydı.

İki olayın da görselleri sosyal medyada ve hatta basında büyük yankı uyandırdı. Aslında bunların hepsi yapay zeka üretimi, gerçek dışı görsellerdi ama medyanın önemli bir kısmı bunu fark edemedi.

Görüntülerin hızla yayılmasında Trump'ın, ilişki yaşadığı iddia edilen porno yıldızı Stormy Daniels'a "sus payı ödediği" gerekçesiyle yürütülen soruşturma için ifadeye çağrılması da rol oynadı.

Araştırmacı gazetecilik grubu Bellingcat'in kurucusu Eliot Higgins, konu gündemdeyken küçük bir şaka yapmak için yapay zeka aracı Midjourney'de Trump'ın polis zoruyla götürüldüğü görseller oluşturdu ve bunları Twitter'da paylaştı.

Higgins aslında bunların yapay zeka ürünü olduğunu saklamak istememişti ama birçok kullanıcı görselleri gerçekmiş gibi yaymaya devam etti.
 

Görüntüler çok yayılınca Midjoruney, "tutuklama" kelimesini yasaklamaya karar verdi. Ayrıca Higgins'in de uygulamayı kullanmasının yasaklandığı iddia ediliyor.

Papa'nın modaya uygun, uzun ve beyaz bir mont giydiği diğer görseli üreten kişi ise trippy_art_special adlı bir Reddit kullanıcısıydı. Görseli 24 Mart'ta forumda paylaşan hesap daha sonra silinmişti.

Ancak hesabın silindiği sırada sosyal medya kullanıcıları, Papa'nın moda anlayışını tartışmaya başlamıştı bile.

Görsel üretim araçları nasıl çalışır?

Kullanıcıların sohbet kutucuğuna kelimeler girerek görüntü oluşturmasını sağlayan veya onlarla yazılı ya da sesli olarak sohbet edebilen yapay zeka araçları 2022'de patlama yaptı.

Uzmanlar bunların geneline "üretken yapay zeka" adını veriyor.

Görsel üreten araçların ilk büyük örneği, ChatGPT'nin de arkasındaki firma olan OpenAI'ın tasarladığı ve adını ressam Salvador Dali'yle Disney Pixar'ın WALL-E'sinden alan DALL-E'ydi.

Araç temmuzda piyasaya çıkmış, onu da ağustosta Stable Diffusion izlemişti. Bir diğer büyük örnek olan Midjourney de ağustosta bir sanat müzesinden ödül alarak adını duyurmuştu.

Bu furyanın hemen ardından da ChatGPT geldi.

Görsel üretim araçları, internetten toplanan milyarlarca görüntüyle ve bu görüntüleri tasvir eden yazılı sözcüklerle eğitildi. Sonunda kullanıcılar, sohbet kutusuna "tavşan" yazdığında bir tavşan görseli üretebilecek hale geldiler.

Kullanımı giderek kolaylaşıyor

Midjourney ve DALL-E halihazırda aylık ve yıllık ücretler karşılığında hizmet veriyor. Stable Diffusion ise açık kaynaklı olduğu için yazılımı istenen cihaza ücretsiz kurulabiliyor.

Bu arada söz konusu programların kullanımı gün geçtikçe kolaylaşıyor. Örneğin Microsoft'un yeni tarayıcısı Bing, DALL-E'yle entegre edildi. Opera da ChatSonic adlı bir başka görsel üretim aracıyla entegre. Bu da kullanıcıların sadece internete bağlanmak için gereken bir tarayıcıyı indirerek bu araçlara erişim sağlayabileceği anlamına geliyor.

Uzmanlara göre bu durum, sosyal medya platformlarında yapay zeka ürünü görsellere rastlama ihtimalimizi artırabilir.

Teyit'in Yazı İşleri Sorumlusu Emre İlkan Saklıca ve İletişim Sorumlusu Can Semercioğlu, Independent Türkçe'ye gönderdikleri ortak değerlendirmede, "Şimdilik yapay zeka araçları toplumun her kesiminin kullanabileceği basitlikte değil. Ancak bu araçlar kullanıcı dostu olmaya devam ettikçe kitlesel dezenformasyon üretimi mümkün olacak" diyor:

Yapay zeka içerik üretimini kolaylaştıracak bir araç olmakla birlikte son zamanlarda sık karşılaştığımız deepfake içeriklerin üretiminin de kolaylaşmasına yol açıyor.

Sırasıyla Semercioğlu ve Saklıca, her kullanıcının birer teyitçi olabilmesi için yakın zamanda eğitimler düzenleyeceklerini ifade ediyor (Independent Türkçe)

Önceden de "deepfake" vardı, peki değişen ne?

Aslında "deepfake" görüntüler, bu araçlar yaygınlaşmadan önce de büyük bir tehditti.

Deepfake kabaca birinin yüzünü dijital olarak başka birinin vücuduna monte edip elde ettiğiniz görüntüyü istediğiniz gibi kullanmanıza olanak tanıyan bir teknoloji. Kısacası internetten kolayca ulaşılabilen algoritmalar sayesinde A kişisinin yüzü B kişisine montajlanabiliyor.

Uzmanlar deepfake videolarını geleceğin en tehlikeli suç unsurlarından biri olarak görüyordu. Örneğin yakın zamanda Elon Musk'ın deepfake videosuyla kripto para sahteciliği yapmaya çalışan dolandırıcılar gündemi sarsmıştı. Musk'ın sesi ve görüntüsüyle internet kullanıcılarına günlük yüzde 30 kâr vaat edilmişti. Kaç kişinin bu yolla dolandırıldığı ise bilinmiyor.

Yapay zeka ürünü dezenformatif içerikler üzerinde sıklıkla doğrulama çalışmaları yapan Teyit ekibine göre, yanlış bilgi sorunu her zaman farklı şekillerde karşımıza çıkacak. Ancak ekip, "Bu araçlar yokken deepfake içeriklerle çok da sık karşılaşmadık" diyor:

Bugün tabii ki konu yeni araçlarla daha da farklı bir boyuta geçti.

Ayrıca metinden video oluşturan ve hatta ses kopyalayan yapay zeka araçlarının sayısı da gün geçtikçe artıyor. Bu da deepfake videolarının yaygınlaşabileceği endişesini doğuruyor.

"Seçim dönemlerinde tehlike daha da artıyor"

Ekip ayrıca, seçim gibi kritik dönemlerde yapay zekayla üretilen içeriklerin daha da büyük tehlike yarattığını ifade ediyor:

Sosyal medyada ve kapalı mesajlaşma platformlarında yayılması seçim sonuçlarına etki edebilir, kutuplaşmayı artırabilir.

Örneğin Facebook, 2020 ABD başkanlık seçimlerinden önce bu tehlikeyi atlatmak için deepfake videolarını yasaklamıştı.

Şirketten yapılan açıklamada hiciv ya da parodi amacı taşımayan deepfake videolarının ve diğer manipüle edilmiş videoların platformdan silineceği belirtilmişti.

Yapay zekalı görseller nasıl anlaşılır?

Yapay zekada üretilmiş bir görseli fark etmenin ilk yolu tutarsızlıklara odaklanmak. Bu tutarsızlıklar arasında renk farkları, yüzlerdeki asimetriler veya uzuvların boyutları arasındaki farklar yer alabilir.

Örneğin bu görseller gerçek bir fotoğraftan ziyade sanatsal bir perspektifle ve daha keskin renklerle hazırlanmış olabilir. Sosyal medyada yayılan Trump görsellerinin birinde bu ayrımı görmek mümkün.
 

Görselde ayrıca Trump'ın sağ kolunun sol kolundan daha kısa olması da göze çarpıyor (Twitter)

Papa'nın beyaz montlu görüntüsünde de aslında yüzünün epey uzun resmedildiği ve sağ elinin belirsiz biçimde bırakıldığı göze çarpıyor.
 

Birçok kullanıcı Papa'nın yüz ve sağ el çizimindeki tutarsızlıklardan şüphelendi (Twitter)

Bir diğer örnek ise Fransa'daki emeklilik reformu karşıtı protestolarla ilgili. Yine sosyal medyada paylaşılan bir görselde Fransız polisinin bir protestocuya sarıldığı görülüyor.

Birçok kullanıcı bu görüntüyü gerçek sansa da polis memurunun 6 parmaklı olduğunu fark edenler yapay zekadan şüphelendi. AFP muhabiri Nina Lamparski görselin yapay zeka üretimi olduğunu teyit etti:
 

Yapay zeka el çizmekte neden başarısız?

Anlaşılacağı üzere, görsel üretim araçlarının en başarısız olduğu nokta eller. Bu araçlar elleri çoğu zaman 2-3 parmaklı veya 7-8 parmaklı resmediyor. Bazı durumlarda parmakların sarmaşıklar gibi birbirine dolaştığı veya aşırı uzun çizildiği görülüyor.

Makinelerin eğitilmesi için kullanılan görüntülerin daha çok yüzlere odaklandığı tahmin ediliyor. Veri setindeki görüntülerde yer alan eller muhtemelen hakreket halinde ve çok çeşitli şekillerdeydi. Yapay zekalar bu yüzden bir elin nasıl görünebileceğini kavrayamadı.

Midjourney el çizmeyi de öğrendi

Öte yandan Midjourney'e kısa süre önce gelen bir yazılım güncellemesiyle yapay zekanın el çiziminde ne denli hızlı yol kat ettiği de göze çarpıyor.

Araca eklenen V5 adlı yeni özellik, hem daha gerçekçi görüntüler oluşturulmasını hem de elleri düzgün biçimde çizilmesini sağlıyor.
 

Midjourney'nin ardından diğer yapay zeka araçlarına da el güncellemesi gelmesi bekleniyor (Independent Türkçe / Midjourney)

ABD'deki Kaliforniya Üniversitesi'nde dijital adli tıp profesörü Hany Farid, "Tüm bu ayrıntılar gelmeden önce ortalama bir insan, 'Tamam, burada 7 parmak var veya şurada 3 parmak var, bu muhtemelen sahte' diyebilirdi" ifadelerini kullanıyor.

Washington Post'a konuşan Farid, şöyle ekliyor:

Ama yapay zeka tüm bu ayrıntıları doğru yapmaya başladığında bu görsel ipuçları daha az güvenilir hale geliyor.

Uzmanları bile yanılttı: "Papa'ya güldüm"

Yapay zeka görsel üretiminde kendini geliştirdikçe sadece sıradan kullanıcılar değil, dezenformasyon eğitimi almış uzmanlar bile savunmasız kalabiliyor.

Birleşik Krallık'taki Nottingham Üniversitesi'nde dezenformasyon uzmanı Dr. Daniel Jolley, Twitter'da gezerken Papa'nın beyaz montlu görseline rastladığını ama sahte olduğunu fark etmediğini itiraf ediyor.

iNews'e konuşan Jolley, "Gerçekten de güldüm ve Papa'nın bu montu giymesinin ne kadar tuhaf olduğunu düşündüm" diyor:

Sahte olduğunun farkında bile değildim. Görsel çok iyi kalitede.

İlerlemenin durdurulması mümkün değil: "Bu bir silahlanma yarışı"

Birçok uzman, bu teknolojinin 2022'de "yıldırım hızıyla" geliştiği ve hiçbir yavaşlama belirtisi göstermediğinde hemfikir.

Farid, yapay zeka şirketlerinin bu araçların gelişimini yavaşlatmasını da pek olası bulmuyor.

"Üretken yapay zeka alanında bir silahlanma yarışı var" diyen akademisyen şöyle devam ediyor:

Herkes nasıl para kazanılacağını öğrenmek istiyor Hızlı hareket ediyorlar ve güvenlik onları yavaşlatır.

Florida Üniversitesi'nde yapay zeka ve sanat doçenti Amelia Winger-Bearskin ise yeni güncellemelerin araçları iyileştirdiğini ama yapay zekanın halen mükemmel olmadığını vurguluyor. Bu yüzden görsel ipuçları en azından kullanıcıların şüphesini uyandırmak için halen etkili olabilir.

Görsel ipuçları dışında tespit yolları

Görsel ipuçları dışında kalan teyitçilik yöntemleri ise yapay zeka üretimi görseller için de etkili. Uzmanlar her şeyden önce kullanıcıların gördüklerine şüpheyle veya eleştirel yaklaşmasını öneriyor.

Örneğin Teyit ekibi, "Herkesin dezenformasyon üretebilme potansiyelinin olduğu bir ortam oluştuğunda elbette her şeyden önce şüphe kasına ihtiyacımız var" diyor:

Neyin doğru olup olamayacağına dair içgüdümüzü diri tutmaya ihtiyacımız var. Bunun da yolu eleştirel dijital okuryazarlıktan geçiyor.

Bir sonraki adımsa, Google'da tersine görsel arama yapmak olabilir. Sosyal medya kullanıcıları rastladıkları bir görseli Google'da aratarak kaynağına ve onu ilk kez paylaşan kişiye kadar ulaşabilir. Örneğin Teyiit ekibi de Papa'nın beyaz montlu görselinin kaynağına bu sayede ulaştıklarını söylüyor.

Kullanıcıların sansasyonel bir haber karşısında referans alabileceği güvenilir kaynakları kontrol etmesinde de fayda var. Örneğin, Trump'ın gözaltına alınmasının tüm dünyada manşetlere taşınacağını akılda bulundurmak gerekli. Uzmanlar, sosyal medyada sansasyonel bir haber gören kullanıcıların güvenilir haber kurumlarını da kontrol etmesi gerektiğini söylüyor.

Yapay zeka şirketleri nasıl önlemler alıyor?

Trump örneğinden de görülebileceği üzere yapay zeka araçlarının başvurduğu ilk önlemlerden biri belirli kelimeleri yasaklamak.

Bunun başında müstehcen veya şiddet içeren kelimeler geliyor. Zira şirketler, bu uygulamalar amacıyla insanlara sahte görüntülerle şantaj uygulanmasının önüne geçmeye çalışıyor.

Son örnekte de Midjourney, "tutuklanma" kelimesini yasakladı. Ancak dezenformatif içerikler bu kelimelerden ibaret değil. Bu yüzden dünya genelinde birçok uzman, şirketlerden anonim hesapların görsel üretmesini engellemesini de talep ediyor.

Bir diğer öneri de bu görsellere otomatik olarak filigran eklenmesi. Filigranda görsellerin yapay zekada oluşturulduğunun açıkça yazılması talep ediliyor.

Sorunun çözümü de teknolojide

Teyit ekibi ise "Teknoloji tek yönlü ilerlemeyecek" diyor. Buna göre yapay zekayla üretilen yanlış bilgileri tespit eden yapay zeka araçları da ortaya çıkacak. Bunların ilk örnekleri halihazırda verilmiş olsa da henüz yeterli düzeyde değiller.

"Geçmiş deneyimlerimiz de bize bu konuda yardımcı olabilir. Sosyal medya platformları ilk ortaya çıktığında yanlış bilgi sorununun bu kadar yoğun olacağını muhtemelen tahmin etmiyorlardı" diyen Saklıca ve Semercioğlu, sözlerini şöyle sürdürüyor:

Ancak bu sefer kollektif bir hafızamız var. Çift yönlü deneyimimiz yapay zekayı kullanarak yanlış bilgi yayanların karşısına daha etkili çözümler getirmemizi de sağlayabilir. Daha güçlü ve farklı açılardan yaklaşmamıza katkı sunabilir.

Twitter'ın topluluk notları

Bu arada Twitter'ın halihazırda yanlış bilgilerin yayılmaması için aldığı bir önlem, yapay zeka üretimi görseller için de kullanılıyor.

Birkaç hafta önce getirilen Topluluk Notları özelliğinde kullanıcılar şüpheli gördükleri veya yanlış olduğunu tespit ettikleri tweetlere not ekleyebiliyor.

Böylece ilgili tweetin altına not ekleniyor ve tüm kullanıcılar bu notu görebiliyor.

Örneğin, son olarak bir kullanıcı yapay zekayla Elon Musk'ı ve General Motors'un CEO'su Mary Barra'yı el ele resmetmişti. Topluluk notlarına üye olan kullanıcılarsa gönderinin altına hızla bu görselin yapay zeka üretimi olduğu notunu ekledi.
 

Yapay zekanın sadece görselleri mi tehlikeli?

Bu arada üretken yapay zeka araçlarının en başarılı örneği olarak kabul edilen ChatGPT de şimdiden dezenformasyonla anılır hale geldi.

ChatGPT'nin entegre edildiği Bing'i kullananlar, çok sayıda yanlış bilgiyle karşılaşıyor. İddiaya göre benzer bir durum Google'ın rakip tarayıcısı Bard için de geçerli. Üstelik bu iki tarayıcı da birbirinin sonuçlarını kullanarak yanlış bilgiler üretebiliyor. Zira söz konusu sistemler halihazırda internette yer alan bir dizi yanlış bilgiyle de besleniyor.

Daha da kötüsü bazı gazetelerin, haber yazımını yapay zekaya havale etmesi ve bunu okurlardan saklaması. Kısa bir süre önce teknoloji sitesi CNET'in bir süredir gizlice yapay zeka yazımı haberler yayımladığı ortaya çıkmıştı.

Bu makalelerin yanlış bilgiler içerdiği tespit edilmişti. Özellikle ekonomi haberlerindeki faiz hesapları fazla abartılıydı ve okuru yanlış yatırıma yönlendirme potansiyeline sahipti. 

Microsoft'un internet portalı MSN'nin de artan sayıda sahte haber yayımlanmaya başladığı görülmüştü. Bu haberlerin portala entegre edilen yapay zeka sistemlerinden kaynaklandığı anlaşılmıştı.

Yazılı üretimi tespit etmenin yolu: "Gücümüz dijital okuryazarlıktan geliyor"

Teyit ekibi, bu gibi yazılı yanlış bilgilerde "mevcut teyitçilik yöntemlerini kullanmanın en etkili yol olduğunu" belirtiyor.

"Dile getirilen verilerin ya da söylemlerin doğruluğunu kaynaklarından kontrol edebiliriz veya doğru bir bağlamda sunulup sunulmadığını, hatalı ilişkilendirilip ilişkilendirilmediğini tespit edebiliriz" diyen ekip, şöyle ekliyor:

Yapay zeka şu anki haliyle kimi insani yönlerden yoksun. Bizim gücümüz eleştirel dijital okuryazarlıktan geliyor.

"Robot kıyameti" dedikleri böyle bir şey mi: Yapay zeka durdurulsun çağrısı

Hollywood'da ve genel olarak bilimkurguda "robot kıyameti", yapay zekalı makinelerin insanlara savaş açtığı ve hatta insanları yok ettiği bir tema.

Ancak bazıları halihazırda yapay zekanın insanları manipüle etmeye başladığına ve bir robot kıyametinin içinde olduğumuza inanıyor. Onlara göre bu manipülasyonun önemli bir ayağı yanlış bilgi.

Son olarak teknoloji sektörünün önde gelen 1100 ismi, açık bir mektup yayınlayarak bütün yapay zeka laboratuvarlarının ChatGPT'den daha güçlü bir sistem üzerinde yürüttükleri çalışmaların 6 ay süreyle durdurulması çağrısında bulundu.

Twitter'ın sahibi Elon Musk ve Apple'ın kurucularından Steve Wosniak'ın da imzasının yer aldığı mektup, bu üretken araçların yarattığı risklerin yönetilebilir olduğunu garanti etmek gerektiğini söylüyor.