Araştırmacılar internet yapay zekanın ürettiği içeriklerle dolmasıyla, yapay zeka sistemlerinin saçmalığa dönüşebileceğine dair uyarıda bulundu.

OpenAI'ın ChatGPT'si gibi metin üreten sistemlere duyulan heyecan son yıllarda giderek arttı. Bu heyecan, pek çok kişiyi sistemler tarafından yaratılan blog yazıları ve çeşitli içerikler yayımlamaya teşvik etti,  böylelikle yapay zekanın ürettiği içerikler, internetin giderek daha büyük bir kısmını kapladı.

Fakat bu sistemleri üreten şirketlerin çoğu, sistemleri eğitmek için internetteki metinlerden yararlanıyor. Bu, metinleri üretmek için kullanılan yapay zeka sistemlerinin aynı metinlerle eğitildiği bir döngüye yol açabilir.

Yeni bir çalışmada araştırmacılar, bunun yapay zeka araçlarını hızlıca anlamsızlığa ve saçmalığa sürükleyebileceği konusunda uyardı. Uyarıları, internetin giderek büyüyen bir kısmının kısır döngüye girerek otomatikleştiğini öne süren daha geniş "ölü internet teorisi" kaygısının bir parçası.    

Araştırmaya göre, sistemin içerik ürettiği ve ürettiği içeriklerle eğitildiği döngünün yalnızca birkaç kez yaşanması, sistemin saçmalık üretmeye başlaması için yeterli.

Örneğin araştırmacılar, ortaçağ mimarisi hakkındaki metinlerle test edilen bir sistemde, sadece 9 üretimde çıktının kendini tekrarlayan bir kır tavşanı çeşitleri listesine dönüştüğünü gözlemledi.

Yapay zekanın yine yapay zeka tarafından üretilen veri setleriyle eğitilmesi ve çıktıları kirletmesine "model çöküşü" denmişti. Araştırmacılar, yapay zeka sistemleri internette daha sık kullanıldıkça bu durumun yaygınlaşabileceği konusunda uyarıyor.

Sistemler ürettikleri verilerle eğitildikçe, verinin daha az yaygın kısımlarını dışarıda bırakmaya eğilimli olduğu için bu sorun yaşanıyor. Bu çalışmada yer almayan araştırmacı Emily Wenger, farklı köpek cinsleriyle eğitilen bir sistemi örnek vermişti: asıl veride golden retriever daha çok varsa sistem veriden onları seçerek süreç ilerledikçe diğer köpekleri dışarda bırakıyor ve sonunda çökerek yalnızca saçmalık üretmeye başlıyor.

Araştırmacılar, ChatGPT ve Google'ın Gemini'ı çalıştıran büyük dil modellerinde de aynı sonucun ortaya çıktığını gözlemledi.

Bu, yalnızca sistemler giderek işlevini yitireceği için değil, çıktılarındaki çeşitlilik giderek azalacağı için de sorun teşkil edebilir. Veri üretilip geri dönüştürüldükçe sistemler, dünyadaki farklılıkları yansıtmakta zorlanabilir ve daha küçük gruplar ve bakış açıları tamamen silinebilir.

Fotoğraflarla dünyadan haberler

Hepsini göster 30

Fotoğraflarla dünyadan haberler

• 1/30

  22 Aralık 2024 - Filistinliler, İsrail'in Gazze'deki El-Jalaa Caddesi'ne düzenlediği saldırıda isabet alan sivil aracı inceliyor. Gazze Sağlık Bakanlığı tarafından yapılan son güncellemeye göre, İsrail saldırıları son 24 saatte Gazze Şeridi genelinde en az 32 Filistinlinin ölümüne ve 54 kişinin yaralanmasına yol açtı. İsrail güçleri, kuşatma altındaki Kuzey Gazze'de zorlukla faaliyet gösteren Kamal Adwan Hastanesi'nin içindeki ve yakınındakilere tahliye emri verdikten sonra hastaneye saldırı düzenledi (Omar Al-Qattaa/AFP)

• 2/30

  21 Aralık 2024 - Dün akşam Almanya'da en az 5 kişinin ölümüne ve 200 kişinin yaralanmasına yol açan saldırının gerçekleştiği Noel pazarının yakınındaki kilisenin girişine çiçekler bırakılıyor. Ölümcül saldırıda bir kişi aracını pazardaki kalabalığın üzerine sürmüştü. Kiliseye çiçek bırakanlardan Almanya Başbakanı Olaf Scholz, ülkenin birlik içinde kalması gerektiğini vurgulayarak failin cezasız kalmayacağına söz verdi. Polis, saldırıdan sorumlu olduğunu düşündüğü 50 yaşındaki Suudi Arabistanlı bir doktoru gözaltına aldı (Michael Probst/AP)

• 3/30

  20 Aralık 2024 - Tayvan'da ana muhalefetteki Çin Milliyetçi Partisi (Komintang) milletvekilleri (beyaz giyenler) parlamentoya girmeye çalışıyor. Demokratik İlerleme Partisi'nden (DPP) çok sayıda milletvekili, perşembe gecesi parlamentoyu basarak tartışmalı tasarıların geçmesini önlemek için Yasama Yuanı'na girişleri engellemiş ve içeride barikat kurmuştu. Sözkonusu yasa tasarıları arasında seçilmiş yetkililerin görevden alınma koşullarının sıkılaştırılması için planlanan bir değişiklik de yer alıyor (I-Hwa Cheng/AFP)

• 4/30

  19 Aralık 2024 - Luigi Nicholas Mangione, Pensilvanya'nın Hollidaysburg kentindeki Blair County Adliyesi'nden ayrılıyor. UnitedHealthcare CEO'su Brian Thompson'ı 4 Aralık'ta Manhattan'da bir sokakta vurmakla suçlanan 26 yaşındaki Mangione, geçen hafta Pensilvanya'daki bir McDonald's'ta görüldüğünde sona eren, ülke çapında bir aramayı tetiklemişti. Eski veri mühendisi, cinayetle ilgili suçlamalarla yüzleşmek üzere New York'a iade edilme çabalarıyla mücadele ederken bu eyalette hapiste tutuluyor (Gene J. Puskar/AFP)

• 5/30

  18 Aralık 2024 - Suriye'de başkent Şam'ın dışındaki Cobar'da bir aile, tahrip olmuş mezarlıkta. Baas rejiminin devrilmesinin ardından Suriye'de toplu mezarlar ve cesetler bulunmaya devam ediyor. Şam'daki Seyyide Zeynep bölgesinde bir depoda aralarında çocukların da olduğu, 20'den fazla kişiye ait olduğu düşünülen ceset kalıntıları bulundu. Öte yandan Avrupa Birliği Komisyonu Başkanı Ursula von der Leyen, AB'nin Suriye'nin yeniden imarına katkı sağlamaya hazır olduğunu belirtti (Aris Messinis/AFP)

• 6/30

  17 Aralık 2024 - Gazze Şeridi'ndeki Han Yunus kentinde Filistinli bir kız çocuğu yemek dağıtım merkezinde sıra bekliyor. Gazze Savaşı sürerken, ateşkesin sağlanması ve rehinelerin serbest bırakılmasına dair aylardır süren açmazın ardından İsrail ve Hamas'ın anlaşmaya yakın olabileceği belirtiliyor. İsrail'in Gazze'deki askeri varlığını sürdürmekte ısrar etmesi ve Hamas'ın İsrail askerleri çekilene kadar rehineleri serbest bırakmayı reddetmesi nedeniyle bu yıl defalarca yapılan görüşmeler başarısızlıkla sonuçlanmıştı (Bashar Taleb/AFP)

• 7/30

  16 Aralık 2024 - Almanya'da Başbakan Olaf Scholz başkanlığındaki hükümet, Federal Meclis'te yapılan güven oylamasını geçemeyerek düştü. Hür Demokrat Parti'nin (FDP) ayrılması sonrasında Sosyal Demokrat Parti (SPD) ve Yeşiller'den oluşan koalisyon hükümeti dağıldı ve erken seçimin yolu açıldı. Almanya 23 Şubat'ta sandık başına gidecek (John Macdougall/AFP)

• 8/30

  15 Aralık 2024 - Suriye'nin başkenti Şam'da sokaklara dökülen halk, ülkenin yeni yöneticilerinin belirlediği bayrağı açtı. Birleşmiş Milletler Suriye Özel Temsilcisi Geir Pedersen, Suriye'de Beşar Esad rejiminin devrilmesinin ardından ilk kez Şam'a gitti. Pedersen, "Elbette bu değişim kendi başına büyük umutlar oluşturuyor, ancak hepimiz önümüzde hala birçok zorluk olduğunu biliyoruz" diye konuştu. Öte yandan Golan Tepeleri civarındaki tampon bölgeye giren İsrail ordusu, işgali daha ileriye taşıyarak başkent Şam'ın 25 kilometre yakınlarına kadar sokuldu (Amr Abdallah Dalsh/Reuters)

• 9/30

  14 Aralık 2024 - Güney Kore Ulusal Meclisi Başkanı Woo Won-sik, Seul'daki genel kurulda, Başkan Yoon Suk Yeol'un azledilmesine yönelik önergeyi kabul ederek tokmağı vuruyor. Güney Koreli milletvekilleri, 3 Aralık'taki sıkıyönetim girişiminin ardından Yoon'un görevden alınması için bugün oy kullandı. Yoon, önergenin kabulünden sonra yaptığı açıklamada "Şimdilik ara versem de halkla birlikte geleceğe uzanan yolculuğumu sürdüreceğim" dedi (YONHAP/AFP)

• 10/30

  13 Aralık 2024 - İtalya'da polis, öğrencilerin Filistinlilere destek ve hükümetin politikalarına karşı eylemi sırasında, Torino Politeknik Üniversitesi'nin önünde nöbet tutuyor. USB ve Cobas sendikalarının düzenlediği eğitim, ulaşım ve kamu sağlığını kapsayan ulusal grev gününde, Reuters'e konuşan bir sendika sözcüsü "Bizim grevimiz savaş ekonomisine ve dolayısıyla hükümetimizin İsrail devletine verdiği desteğe karşı bir grev" dedi. Hükümetin İsrail politikalarının protesto edilmesinin yanı sıra daha yüksek ücretler ve daha kısa çalışma haftası da eylemcilerin talepleri arasında yer alıyor (Marco Bertorello/AFP)

• 11/30

  12 Aralık 2024 - Donald Trump, Time dergisinin New York Borsası'nda düzenlediği Yılın Kişisi etkinliğinde konuştu. Time, seçilmiş başkanın artık "dünyanın en güçlü adamı" olduğunu belirtti. Dergiden yapılan açıklamada Trump'ın, "tarihi boyutlarda bir geri dönüşe imza attığı, nesilde bir kez görülen siyasi bir yeniden yapılanmaya öncülük ettiği" belirtildi. Trump bu unvanı ilk başkanlık seçim zaferinin ardından 2016 yılında da almıştı (Alex Brandon/AP)

• 12/30

  11 Aralık 2024 - Gazze Şeridi'nde çocuklar, enkaz yığınlarının arasında su taşıyor. İsrail'in Gazze Şeridi'ne yönelik saldırıları 14 aydan fazla süredir devam ederken, son 15 günde 556 Filistinli hayatını kaybetti, 1511 kişi yaralandı (Ömer el-Kette/AFP)

• 13/30

  10 Aralık 2024 - ABD'nin Kaliforniya eyaletinin Malibu kentinde çıkan yangın büyüyor. Rüzgarın şiddetlendirdiği yangın, Hollywood elitlerinin ikamet ettiği kıyı topluluğundaki evleri ve işyerlerini tehdit ediyor (David Swanson/AFP)

• 14/30

  9 Aralık 2024 - Suriyeli kurtarma ekipleri Şam'daki Sednaya hapishanesinde gizli bodrum katlarını ararken insanlar hapishanenin çatısında duruyor. Beşar Esad yönetiminin pazar günü düşmesinden beri, yakınlarından haber almayı uman Suriyeli siviller ülkenin en gizli ve en kötü şöhretli hapishanesi Sednaya'ya akın ediyor. İnsan hakları kuruluşlarınca "insan mezbahası" adıyla anılan Sednaya çok sıkı saklanan bir sırdı ve şu ana dek hapishanenin içinden hiç görüntü hiç alınamamıştı (Abdülaziz Ketaz/AFP)

• 15/30

  8 Aralık 2024 - Suriye'nin başkenti Şam'daki Emevi Camii. Heyetu Tahriru'ş Şam (HTŞ) öncülüğündeki silahlı örgütler başkent Şam'ın kontrolünü ele geçirdi. BM Genel Sekreteri'nin Suriye Özel Temsilcisi Geir Pedersen, ülkenin bir dönüm noktasında olduğunu söyledi. Suriyeli muhalifler, bugün 16.00'dan yarın 05.00'e kadar Şam'da sokağa çıkma yasağı ilan etti. Kutlama amacıyla da olsa kalabalık meydanlarda ateş açılmaması için çağrı yapıldı (Aref Tammawi/AFP)

• 16/30

  7 Aralık 2024 - İtfaiyeciler, Hollanda'nın Lahey kentindeki bir mahallede meydana gelen patlamanın etkisiyle yıkılan bir binanın önünde duruyor. Sabah erken saatlerde yaşanan patlamada 5 daire yerle bir oldu. Yetkililer en az bir kişinin hayatını kaybettiğini ve 3 kişinin yaralı olduğunu bildirdi. Enkaz altında kalanların sayısıysa net değil. Patlamanın nedeni henüz bilinmiyor fakat polis olay yerinden hızla ayrılan bir arabayı aradıklarını belirtti (Phil Nijhuis/AP)

• 17/30

  6 Aralık 2024 - Güney Kore Devlet Başkanı Yoon Suk Yeol'un görevden alınmasını talep eden protestocular, başkent Seul'deki Ulusal Meclis önünde toplandı. Yoon, hem muhalefetten hem de kendi partisinden aldığı tepkilerle 3 Aralık'taki sıkıyönetim kararından yaklaşık 6 saat sonra geri adım atmak zorunda kalmıştı. Muhalefet partileri, başkanın azledilmesi için önerge verirken sivil toplum kuruluşları da lideri istifaya çağırıyor (Kim Hong-ji/Reuters)

• 18/30

  5 Aralık 2024 - İsrail'in Gazze Şeridi'nin güneyindeki Han Yunus yakınlarındaki Mevasi kampına hava saldırısı düzenledi. İsrail hava saldırıları çarşamba günü Gazze'nin güneyinde yerlerinden edilmiş Filistinlilerin kaldığı kampı vurdu ve yakındaki bir hastanenin yöneticisine göre en az 21 kişi hayatını kaybetti. Cenevre merkezli sivil toplum kuruluşu Avrupa-Akdeniz İnsani Hakları İzleme Örgütü (Euro-Med), İsrail'in dün düzenlediği saldırıda Filistinlileri "diri diri yaktığını" belirtti (Abdel Kareem Hana/AP)

• 19/30

  4 Aralık 2024 - ABD'nin New York kentinin Manhattan bölgesinde polis, Hilton Otel'in önünde gerçekleşen saldırının ardından olay yerindeki mermi kovanlarını işaretliyor. ABD'nin en büyük sağlık sigorta şirketlerinden UnitedHealthcare'in CEO'su Brian Thompson, silahlı saldırıda öldürüldü. Saldırganın olay yerinden bisikletle kaçıp Central Park'a gittiği açıklandı. Polis, sokak ortasında 50 yaşındaki Thompson’ı öldüren katili hâlâ arıyor (Stefan Jeremiah/AP)

• 20/30

  3 Aralık 2024 - Eski Gana Devlet Başkanı ve Ulusal Demokratik Kongre'nin (NDC) başkan adayı John Mahama'nın destekçileri Akra'da, 7 Aralık'ta yapılacak başkanlık seçimi öncesinde seçim konvoyunda NDC siyasi partisinin bayraklarını kaldırıyor. Gana'da iki dönem görev yaptıktan sonra istifa eden Devlet Başkanı Nana Akufo-Addo'nun yerine geçecek isim için yapılacak oylamada ekonominin yönetimi kilit rol oynayacak. Oylama, Akufo-Addo'nun iktidardaki Yeni Yurtsever Parti'nin (NPP) adayı ve mevcut Başkan Yardımcısı Mahamudu Bawumia'yla eski başkan ve NDC partisinin adayı John Mahama arasında sıkı bir yarışa dönüştü. Akufo-Addo'nun ikinci dönemine ekonomik kriz, enflasyon ve Gana'nın borç yükünü yönetmek için Uluslararası Para Fonu'yla 3 milyar dolarlık bir anlaşma yapmak zorunda bırakan zayıf para birimi damgasını vurmuştu (Olympia De Maismont/AFP)

• 21/30

  2 Aralık 2024 - Gürcistan'ın başkenti Tiflis'te Avrupa Birliği (AB) kararının ardından başlayan protestolar sürüyor. Hükümet, AB'ye katılım müzakerelerinin 2028'e kadar askıya alınmasına karar vermişti. İçişleri Bakanlığı protestolarda 113 polisin yaralandığını ve 224 göstericinin de gözaltına alındığını duyurdu (Zurab Tsertsvadze/AP)

• 22/30

  1 Aralık 2024 - Şili'nin başkenti Santiago'da dev Örümcek-Adam balonu, Noel festivalinde sokaklardan geçti. Noel sezonunun başlangıcına işaret eden geleneksel Disney geçidinde Oyuncak Hikayesi'nden Buzz Lightyear ve ikonik Mickey Mouse'un yanı sıra birçok çizgi film karakteri vardı (Esteban Felix/AP)

• 23/30

  30 Kasım 2024 - Kosova'nın kuzeyinde, ülkenin elektriğinin neredeyse tamamını üreten iki termik santrale su sağlayan hasarlı kanalda bir polis devriye geziyor. Polis, cuma günü Varage köyünde meydana gelen patlamanın ardından kanalın çevresinde güvenlik önlemlerini artırdı. Patlama sonrasında güç kaynaklarının büyük ölçüde sağlam olduğu görülmüş ancak bazı bölgelere içme suyu tedarikinde sıkıntı yaşanmıştı. Gece boyunca yapılan çalışmalarla, sabah saatlerinde geçici bir çözümle tekrar su verilmeye başlandı. Komşu ülke Sırbistan, önemli kanaldaki patlamadan sorumlu olduğu suçlamalarını reddetmişti (Valdrin Xhemaj/Reuters)

• 24/30

  29 Kasım 2024 - Notre-Dame Katedrali'nin restorasyonunda çalışan işçiler de dahil olmak üzere katılımcılar, Fransa Cumhurbaşkanı Emmanuel Macron'un konuşması için katedralin nefinde toplandı. Macron, katedrali ziyaret ederek restorasyonda görev alanlara teşekkür etti. Fransa'nın en ünlü anıtlarından Notre Dame Katedrali, 2019'da çıkan yangında kullanılmaz hale gelmişti. Katedral yangından 5 yıl sonra, 7 ve 8 Aralık 2024'te düzenlenecek törenlerle yeniden açılacak (Sarah Meyssonnier/AFP)

• 25/30

  28 Kasım 2024 - Ukrayna'nın Lviv kentinde uygulanan elektrik kesintisi sırasında, jeneratörle aydınlatılan güzellik salonu faaliyet göstermeyi sürdürüyor. Bugün Ukrayna'nın enerji altyapısına devasa bir saldırı başlatan Rusya, dondurucu soğukların görüldüğü ülkeyi acil elektrik kesintileri uygulamaya zorluyor. Rusya-Ukrayna Savaşı'nda bin gün eşiği geçen hafta geçilmişti (Yuriy Dyachyshyn/AFP)

• 26/30

  27 Kasım 2024 - Lübnan'da yerinden edilmiş yurttaşlar, Beyrut'un Dahiye bölgesindeki evlerine dönüyor. İsrail'le Hizbullah arasındaki ateşkes bugün devreye girdi. Lübnan'la İsrail hükümetleri arasında ateşkes antlaşmasına varıldığını ABD Başkanı Joe Biden duyurdu. ABD ve Fransa'nın başını çektiği bir uluslararası koalisyonun ateşkes antlaşmasının uygulanmasına ilişkin destek sunacak (Bilal Hussein/AP)

• 27/30

  26 Kasım 2024 - Pakistan'ın başkenti İslamabad'da Pakistan Ordusu'ndan askerler, meclise çıkan yolu kapatmak için yerleştirilen konteynırın üzerinde nöbette. İmran Han'ın partisi Pakistan Adalet Hareketi'nin destekçileri, eski başbakanın hapishaneden çıkartılması talebiyle hükümet karşıtı protesto düzenledi. Eylemcilerle güvenlik güçleri arasında çıkan çatışmada ölü ve yaralılar var (Akhtar Soomro/Reuters)

• 28/30

  26 Ekim 2024 - Gürcistan'da parlamento ilk oturumunu gerçekleştirirken başkent Tiflis'te bir kadın geçen ayki genel seçimin sonuçlarına yönelik protestoda böyle görüntülendi. Parlamento önünde çadırlar kurarak eylem yapan muhalefet partililer ve destekçileri, meclise giren milletvekilleri protesto etti. Hükümeti seçimlerde hile yapmakla suçlayan göstericiler, yeniden seçime gidilmesini talep ediyor (Vano Shlamov/AFP)

• 29/30

  24 Kasım 2024 - Filistinliler, bir yardım kuruluşunun mutfağından yemek almak için toplanıyor. Gazze'deki ailelerin, yardım ekiplerinin nispeten daha fazla erişimi olduğu bölgelerde bile genelde günde sadece bir kez yemek yiyebildiği bildiriliyor. Birleşmiş Milletler Dünya Gıda Programı, Gazze'de devam eden insani krize önlem alınmazsa bu durumun yakında kıtlığa dönüşebileceğini aktarıyor. Uluslararası Ceza Mahkemesi'nin, İsrail Başbakanı Netanyahu ve eski Savunma Bakanı hakkında bu hafta çıkardığı tutuklama emri gerekçeleri arasında "bir savaş yöntemi olarak aç bırakma" suçu da vardı (Mohammed Salem/Reuters)

• 30/30

  23 Kasım - Birleşmiş Milletler'in belirlediği 25 Kasım Kadına Yönelik Şiddete Karşı Uluslararası Mücadele Günü öncesinde İtalya'da binlerce kişi sokağa döküldü. Birleşmiş Milletler'e göre, kadınlara ve kızlara yönelik şiddet dünyadaki en yaygın insan hakları ihlallerinden biri. Dünya çapında, neredeyse üç kadından biri hayatında en az bir kez fiziksel veya cinsel şiddete maruz kalıyor. İtalyda'da "Non Una di Meno (Bir Kadın Daha Eksilmesin)" adlı sivil inisiyatifin girişimiyle gerçekleştirilen yürüyüşte kadınlar "Ataerkilliği silahsızlandıralım" yazılı pankart taşıdı (Yara Nardi/Reuters)

Araştırmacılar, makalede "eğitimde internetteki büyük ölçekli verileri temizlemenin faydalarını sürdürmek isteniyorsa sorunun ciddiye alınması gerektiğini" yazıyor. Bu durum, halihazırda sistemlerini eğitmek üzere veri kazımış şirketlerin, geçmişte toplanan verilerde gerçek insan çıktısı daha fazla bulunduğu için avantajlı olduğu anlamına da gelebilir.

Bu sorun, çıktıyı filigranla işaretleyip otomatik sistemler tarafından tespit edilerek eğitim kümelerinin dışında tutulmasını sağlamak da dahil birçok farklı yolla çözülebilir. Ama filigranları silmenin kolay olması ve yapay zeka şirketlerinin filigran kullanmakta işbirliğine direnmesi gibi başka problemler de bulunuyor.

"Yapay zeka modelleri özyineleyerek üretilen verilerle eğitildiğinde çöküyor (AI models collapse when trained on recursively generated data)" isimli çalışma Nature'da yayımlandı.


*İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe’nin editöryal politikasını yansıtmayabilir.

independent.co.uk/tech

Independent Türkçe için çeviren: İdil Barım