Araştırmacılar internet yapay zekanın ürettiği içeriklerle dolmasıyla, yapay zeka sistemlerinin saçmalığa dönüşebileceğine dair uyarıda bulundu.

OpenAI'ın ChatGPT'si gibi metin üreten sistemlere duyulan heyecan son yıllarda giderek arttı. Bu heyecan, pek çok kişiyi sistemler tarafından yaratılan blog yazıları ve çeşitli içerikler yayımlamaya teşvik etti,  böylelikle yapay zekanın ürettiği içerikler, internetin giderek daha büyük bir kısmını kapladı.

Fakat bu sistemleri üreten şirketlerin çoğu, sistemleri eğitmek için internetteki metinlerden yararlanıyor. Bu, metinleri üretmek için kullanılan yapay zeka sistemlerinin aynı metinlerle eğitildiği bir döngüye yol açabilir.

Yeni bir çalışmada araştırmacılar, bunun yapay zeka araçlarını hızlıca anlamsızlığa ve saçmalığa sürükleyebileceği konusunda uyardı. Uyarıları, internetin giderek büyüyen bir kısmının kısır döngüye girerek otomatikleştiğini öne süren daha geniş "ölü internet teorisi" kaygısının bir parçası.    

Araştırmaya göre, sistemin içerik ürettiği ve ürettiği içeriklerle eğitildiği döngünün yalnızca birkaç kez yaşanması, sistemin saçmalık üretmeye başlaması için yeterli.

Örneğin araştırmacılar, ortaçağ mimarisi hakkındaki metinlerle test edilen bir sistemde, sadece 9 üretimde çıktının kendini tekrarlayan bir kır tavşanı çeşitleri listesine dönüştüğünü gözlemledi.

Yapay zekanın yine yapay zeka tarafından üretilen veri setleriyle eğitilmesi ve çıktıları kirletmesine "model çöküşü" denmişti. Araştırmacılar, yapay zeka sistemleri internette daha sık kullanıldıkça bu durumun yaygınlaşabileceği konusunda uyarıyor.

Sistemler ürettikleri verilerle eğitildikçe, verinin daha az yaygın kısımlarını dışarıda bırakmaya eğilimli olduğu için bu sorun yaşanıyor. Bu çalışmada yer almayan araştırmacı Emily Wenger, farklı köpek cinsleriyle eğitilen bir sistemi örnek vermişti: asıl veride golden retriever daha çok varsa sistem veriden onları seçerek süreç ilerledikçe diğer köpekleri dışarda bırakıyor ve sonunda çökerek yalnızca saçmalık üretmeye başlıyor.

Araştırmacılar, ChatGPT ve Google'ın Gemini'ı çalıştıran büyük dil modellerinde de aynı sonucun ortaya çıktığını gözlemledi.

Bu, yalnızca sistemler giderek işlevini yitireceği için değil, çıktılarındaki çeşitlilik giderek azalacağı için de sorun teşkil edebilir. Veri üretilip geri dönüştürüldükçe sistemler, dünyadaki farklılıkları yansıtmakta zorlanabilir ve daha küçük gruplar ve bakış açıları tamamen silinebilir.

Fotoğraflarla dünyadan haberler

Hepsini göster 30

Fotoğraflarla dünyadan haberler

• 1/30

  16 Kasım 2024 - Ölen bir kambur balina, Güney Afrika'nın yasama başkenti Cape Town'da Ulusal Deniz Kurtarma Enstitüsü (NSRI) tarafından çekiliyor. Avcılık, geçmişte kambur balina sayısında ciddi bir düşüşe yol açmıştı. ABD, 1973'te tüm kambur balinaları nesli tehlikede kategorisine almıştı. 1985'te ticari balina avcılığına getirilen moratoryum, kambur balina popülasyonunun artışında önemli bir rol oynadı. ABD Ulusal Okyanus ve Atmosfer Dairesi, halihazırda 14 farklı popülasyonun 4'ünün neslinin tehlikede, birininse tehdit altında olduğunu bildiriyor (Nic Bothma/Reuters)

• 2/30

  15 Kasım 2024 - Bangkok'ta bir kadın, Loy Krathong festivali sırasında nehir tanrıçasına şükranlarını sunmak için yaprak ve çiçeklerden yapılmış Krathong'u parktaki bir lagüne yerleştiriyor. Festival her yıl, Tayland Ay takviminin 12. ayında, dolunayda kutlanıyor. Ülkedeki en büyük festivallerden biri olan Loy Krathong'da Taylandlılar, su tanrıçasına şükranlarını temsil eden adakları küçük teknelerle yüzdürüyor. Bununla kirlilik veya israf gibi davranışları için af da diliyorlar (Chalinee Thirasupa/Reuters)

• 3/30

  14 Kasım 2024 - National Geographic Pristine Seas, Pasifik Okyanusu'ndaki Solomon Adaları'nın yakınında keşfedilen dünyanın en büyük mercanının 24 Ekim'de çekilen fotoğrafını bugün paylaştı. Bilim insanları, Pristine Seas araştırma gemisinde çalışırken buldukları mercanın "hayat ve renkle dolu" önemli bir keşif olduğunu söylüyor. Genişliği 34 metre ve 5 metreden daha yüksek olan mercan, uzaydan bile görülebiliyor. Devasa mercanın 300 yıllık olduğu tahmin ediliyor (Manu San Felix/National Geographic Pristine Seas/AFP)

• 4/30

  13 Kasım 2024 - Fransa'da, Michelin'in Clermont-Ferrand'daki merkezinde düzenlenen eylemde, Genel Emek Konfederasyonu ceketi giyen bir protestocu bir sis bombasının yanından geçiyor. Araç lastiği üreticisi Michelin, 5 Kasım'da 1250'den fazla kişinin çalıştığı iki fabrikasını kapatmayı planladığını açıklamış ve kararın "son çare" olarak alındığını söylemişti. Sadece işten çıkarma planlarından vazgeçilmesini değil, maaş artışının da garanti altına alınmasını talep eden sendikalarla şirket yönetimi arasında henüz bir uzlaşmaya varılamadı (Olivier Chassignole/AFP)

• 5/30

  12 Kasım 2024 - Bakü'deki Birleşmiş Milletler iklim değişikliği zirvesi COP29'un açılış töreninde dansçılar performans sergiliyor. Bu sene gerçekleştirilen COP’ta ülkelerin enerji politikalarının yanı sıra yeni kolektif finansal hedeflerin belirlenmesi bekleniyor. Zirve, Azerbaycan’ın başkenti Bakü’de başladı. İklim aktivistleri pazartesi günü Gürcistan'da bir miting organize ederek Azerbaycan'ın iklim görüşmelerine ev sahipliği yapmasını protesto etmişti. Tiflis'te bir araya gelen birçok aktivist, Azerbaycan'ın baskıcı politikaları nedeniyle iklim görüşmelerine ev sahipliği yapmayı hak etmediğini savunmuştu. Greta Thunberg, Azerbaycan'ın zirveyi "işlediği suçları ve insan hakları ihlallerini yeşil aklama yoluyla örtbas etme şansı" gibi gördüğünü ileri sürmüştü (Maxim Shemetov/Reuters)

• 6/30

  11 Kasım 2024 - Sudan ordusuyla ilişkili silahlı kişileri taşıyan kamyon, ülkenin doğusundaki Gedaref sokaklarında. Sudan'da rakip generaller arasında Nisan 2023'ten beri süren savaş onbinlerce kişinin ölümüne ve 11 milyondan fazlasının da yerinden olmasına yol açtı. Birleşmiş Milletler'e göre yerinden edilenlerden 3,1 milyonu ülke sınırları dışında sığınacak bir yer arıyor (AFP)

• 7/30

  10 Kasım 2024 - Gazze Şeridi'ndeki Deyr El Balah'ta Filistinliler yemek kuyruğunda. BM Yakın Doğu'daki Filistinli Mültecilere Yardım ve Bayındırlık Ajansı (UNRWA) Genel Komiseri Philippe Lazzarini, Gazze'nin kuzeyinde kıtlık yaşanabileceğini belirterek, "Açlık İsrail devleti tarafından silah olarak kullanılıyor" dedi. Lazzarini, "Gazze Şeridi'ne girmesine izin verilen yardım yetersiz. Günde ortalama 30 tırın biraz üzerinde ve bu günlük ihtiyacın yalnızca yüzde 6'sına tekabül ediyor" ifadelerini kullandı (Ramadan Abed/Reuters)

• 8/30

  9 Kasım 2024 - Almanya Cumhurbaşkanı Frank-Walter Steinmeier, Berlin Duvarı'nın yıkılışının 35. yıldönümünde düzenlenen çiçek bırakma törenine katıldı. Törende Soğuk Savaş döneminde Doğu Berlin'den Batı Berlin'e geçerken hayatını kaybedenler anıldı. Berlin Duvarı'nın yıkılışının yıldönümü kapsamında her yıl canlı müzik, sergiler ve eski duvarın bir ucundan diğerine yapılan koşu da dahil olmak üzere çeşitli etkinlikler gerçekleştiriliyor (Ebrahim Noroozi/AP)

• 9/30

  8 Kasım 2024 - İspanya'daki atlı sivil muhafızlar, ölümcül afetin ardından ülkenin doğusundaki Valensiya bölgesinde zarar gören araçların yanından geçerek mağdurları arıyor. Ülkede son 50 yılda yaşanan en kötü sel felaketi, 210'dan fazla kişinin ölümüne, onlarca kişinin kaybolmasına ve kasabaların çamur altında kalmasına yol açtı. Sel özellikle Valensiya'da büyük bir yıkıma sebep oldu (Jose Jordan/AFP)

• 10/30

  7 Kasım 2024 - Arnavutluk Başbakanı Edi Rama, Ukrayna Devlet Başkanı Volodimir Zelenski'ye sarılıyor. Avrupa Siyasi Topluluğu'nun 5'inci zirvesi, kıtanın karşı karşıya olduğu güvenlik zorluklarını ele almak amacıyla Macaristan'ın başkenti Budapeşte'de başladı. Zirvede Avrupa Birliği üyesi ülkelerin liderleriyle üye olmayan ülkelerin liderleri bir araya geliyor. Ana gündem maddeleri arasında düzensiz göçle mücadele, ekonomi güvenliği ve iklim de var (Ludovic Marin/AFP)

• 11/30

  6 Kasım 2024 - 2024 ABD Başkanlık Seçimi'ni kazanan Donald Trump, Florida eyaletindeki West Palm Beach Kongre Merkezi'nde konuşma yaptı. Trump, zafer konuşmasında kendisini destekleyen herkese teşekkür etti ve ekonomik büyüme ve ulusal güvenlik vaatlerinde bulundu. Sandıkların kapanmasıyla birlikte erken sonuçlar, seçim yarışının başa baş gittiğini gösterse de Trump, salıncak eyaletlerde kazanarak zafere ulaştı. Trump, rakibi Demokrat Parti'nin başkan adayı Kamala Harris'ten yaklaşık 5 milyon fazla oy aldı (Jim Watson/AFP)

• 12/30

  5 Kasım 2024 - ABD'nin New York kentinde seçmenler oy kullanıyor. ABD'de seçim gününe gelindi ve Demokrat Parti'nin adayı Kamal Harris'le Cumhuriyetçi Parti'nin adayı Donald Trump arasındaki yarış haftalardır başa baş ilerliyor. Seçimin sonucunu 7 salıncak eyaletteki oyların belirleyeceği düşünülüyor (Leonardo Munoz/AFP)

• 13/30

  4 Kasım 2024 - İspanya'nın Valensiya bölgesindeki Alfafar'ın caddelerinde polis memurları sokaklardaki çamurun temizlenmesine yardım ediyor. İspanya'da uzun zamandır görülen en kötü sel felaketinde hayatını kaybedenlerin sayısı 217'ye ulaşırken arama kurtarma çalışmaları hâlâ sürüyor. Yetkililer sokakların temizlenmesinin en az bir hafta süreceğini belirtirken bölgede 17 bin polis, jandarma, asker ve sivil koruma görevlisi çalışıyor (Jose Jordan/AFP)

• 14/30

  3 Kasım 2024 - Brezilya'daki Formula 1 Sao Paulo Grand Prix'sini Red Bull Racing'in Hollandalı pilotu Max Verstappen kazandı. "Uçan Hollandalı", son derece kaotik geçen yarışa 17. sıradan başlamıştı. İkinci ve üçüncü sırayı Alpine pilotları Esteban Ocon ve Pierre Gasly alırken, pilotlar şampiyonasında Verstappen'le Norris arasındaki fark 62'ye çıktı (Nelson Almeda/AFP)

• 15/30

  2 Kasım 2024 - Hindistan'ın Mumbai şehrinde, Ölüler Günü'nde mezara çiçek koyan bir kadının drone görüntüsü. Cadılar Bayramı'yla başlayan üç günlük dönemde, Hıristiyanlar ölülerle yaşayanlar arasındaki perdenin kalktığına inanıyor. Hıristiyanlar, Hindistan nüfusunun yalnızca yüzde ikisini oluşturuyor. Geçen ay çeşitli Hıristiyan mezheplerinin liderleri, kendilerine yönelik şiddetteki artışı protesto etmek üzere Yeni Delhi'de eylem düzenlemişti (Francis Mascarenhas/Reuters)

• 16/30

  1 Kasım 2024 - Afrika penguenleri, Cape Town yakınlarında turistlerin uğrak noktalarından olan penguen kolonisinde, sahilde dinleniyor. Boulders penguen kolonisi 1983'te kurulmuş ve kolonideki kuş sayısı çevredeki ada kolonileri sayesinde artırılmıştı. Dünya Doğayı ve Doğal Kaynakları Koruma Birliği (IUCN) yakın zamanda Afrika penguenini, nesli tehlike altında olan türlerden nesli kritik tehlikedeki tür kategorisine taşıdı. Halihazırda popülasyonunun yüzde 97'sini kaybetmiş olan kuşun nesli, bir değişiklik olmadığı takdirde 4 bin günden kısa bir süre içinde tükenebilir (Rodger Bosch/AFP)

• 17/30

  31 Ekim 2024 - ABD'nin Missouri eyaletindeki St. Charles kentinde bir yurttaş, Cadılar Bayramı'na özel kıyafetiyle oy kullandı. Seçime sayılı günler kala Kamala Harris ve Donald Trump arasındaki yarış başabaş devam ediyor. ABD Başkanı Joe Biden'ın, destekçilerini "çöp" diye nitelemesi üzerine Cumhuriyetçi Parti'nin başkan adayı Trump, çöp kamyonuna bindi. Öte yandan Arnold Schwarzenegger, Kamala Harris'i desteklediğini açıkladı (Robert Cohen/AP)

• 18/30

  30 Ekim 2024 - İspanya'nın güneyindeki Valensiya'da gerçekleşen sel, arabaları bu hale getirdi. Kurtarma ekipleri, şiddetli yağmurların yol açtığı seller sonucunda 95 kişinin hayatını kaybettiğini açıkladı. Kayıpları arama çalışmalarıysa sürüyor. Valensiya'da 1996'dan bu yana metrekareye en fazla yağışın düştüğü bildirildi. Meydana gelen felaketten dolayı 3 günlük ulusal yas ilan edildiği açıklandı (Jose Jordan/AFP)

• 19/30

  29 Ekim 2024 - Gazze Şeridi'nin merkezinde Filistinli mültecilerin kaldığı Nuseyrat kampındaki Birleşmiş Milletler Yardım ve Bayındırlık Ajansı'na (UNRWA) ait yardım dağıtım merkezinin kapısındaki açıklıktan bir adam dışarı bakıyor. İsrail, parlamentosunun yıkıma uğramış Gazze Şeridi'ndeki ana BM yardım kuruluşunu yasaklayan bir tasarıyı onaylamasının ardından artan bir uluslararası tepkiyle karşı karşıya kalıyor. 90 gün içinde yürürlüğe girmesi beklenen mevzuatın, UNRWA'nın Doğu Kudüs genel merkezinin kapatılmasına ve Refah üzerinden Gazze'ye insani yardım ulaştırılmasının engellenmesine yol açması öngörülüyor (Eyad Baba/AFP)

• 20/30

  28 Eylül 2024 - Eski ABD Başkanı Barack Obama, ABD Başkan Yardımcısı ve Demokrat Parti'nin başkan adayı Kamala Harris'in Pensilvanya eyaletinin Philadelphia kentinde düzenlenen mitinginde konuştu. Ayrıca Bruce Springsteen ve John Legend gibi sanatçılar da sahneye çıkıp seyircileri Harris'e oy vermeye ve arkadaşlarıyla ailelerini sandık başına gitmeye teşvik etmeye çağırdı (Matthew Hatcher/AFP)

• 21/30

  27 Ekim 2024 - Ferrari pilotu Carlos Sainz Jr. Formula 1 Meksika Grand Prix'sinde pitte. İspanyol pilot kariyerindeki 4. F1 zaferini elde ederken, takım arkadaşı Charles Leclerc, son turlarda yaptığı hatayla ikinciliği McLaren'in şampiyonluk mücadelesi veren pilotu Lando Norris'e kaptırıp üçüncülüğe razı oldu. Pilotlar şampiyonasında zirvedeki isim Max Verstappen ise yarış içinde toplamda 20 saniye ceza aldı ve 6. sırada bitirdi (Carlos Perez Gallardo/Reuters)

• 22/30

  26 Ekim 2024 - Birleşik Krallık'ta göçmen karşıtı protestolardaki bir eylemci, Cumhuriyetçi başkan adayı ve eski ABD Başkanı Donald Trump'ın maskesini takıyor. Eylem İngiltere'nin başkenti Londra'da, ülkedeki aşırı sağcı grupların başında gelen İngiliz Savunma Ligi'nin eski lideri Tommy Robinson'ın çağrısıyla organize edilmişti. Robinson, planladığı yürüyüş öncesi Terörle Mücadele Yasası çerçevesinde suçlanarak dün gözaltına alınmıştı. Irkçılık karşıtları da aşırı sağcılara tepki amacıyla eylem düzenledi. İki grubun karşı karşıya gelmesini engellemek üzere güvenlik önlemleri alındı (Hollie Adams/Reuters)

• 23/30

  25 Ekim 2024 - Rusya'nın Ukrayna'ya saldırısı sırasında Kursk bölgesinde Rus askerleriyle girdiği çatışmada hayatını kaybeden Ukraynalı asker Volodimir Baranov için Çernihiv'de düzenlenen cenaze töreninde halk milli marş söylüyor (Maksym Kishka/Reuters)

• 24/30

  24 Ekim 2024 - Mozambik'in başkenti Maputo'daki Maxaquene mahallesinde protestocular, güvenlik güçleriyle çatıştı. Çevik kuvvet polisi, iki muhalifin vurularak öldürülmesinden günler sonra seçimlere hile karıştırıldığı iddiasıyla eylem düzenleyen kalabalığı dağıtmak için göz yaşartıcı gaz kullandı. Avrupa Birliği gözlemcileri de Mozambik seçimlerinde düzensizlikler ve bazı sandık sonuçlarında oynama olduğunu tespit etmişti (Alfredo Zuniga/AFP)

• 25/30

  23 Ekim 2024 - Gazze Şeridi'nin güneyindeki Han Yunus'ta un kıtlığı yaşanıyor. İsrail, Gazze Şeridi'ne gıda, su, yakıt ve elektrik girişini engellemeye devam ediyor. Savaştan önce bile Gazze nüfusunun sadece yüzde 4'ü güvenli ve temiz suya erişim sağlayabiliyordu. Öte yandan Birleşmiş Milletler Genel Sekreteri Antonio Guterres, "Gazze'nin kuzeyindeki çocuk felci aşılama kampanyasının son aşamasının artan şiddet ve erişim eksikliği nedeniyle ertelenmesinden büyük endişe duyduğunu" söyledi (Bashar Taleb/AFP)

• 26/30

  22 Ekim 2024 - İsrail savaş uçağı Beyrut'un güneyindeki bir mahalledeki binayı vurdu. Ayrıca İsrail'in Beyrut'ta Refik Hariri Devlet Hastanesi'nin çevresini hedef aldığı saldırıda ölenlerin sayısı 13'e yükseldi (AFP)

• 27/30

  21 Ekim 2024 - ABD'nin Kuzey Karolina eyaletinde gerçekleştirilen kampanya mitinginde eski ABD Başkanı Donald Trump'ın destekçilerinden biri, break dans yapıyor. Birleşik Devletler'de 2024 Başkanlık Seçimi, 5 Kasım'da gerçekleşecek. Donald Trump, pazar günü Pensilvanya eyaletindeki bir McDonald's'ta çalışırken, Kamala Harris, Stevie Wonder'la şarkı söyledi (Julia Demaree Nikhinson/AP)

• 28/30

  20 Ekim 2024 - İspanya Başbakanı Pedro Sanchez ve eşi Begona Gomez'i tasvir eden bir pankart, başkent Madrid'de hükümeti protesto etmek ve genel seçim çağrısında bulunmak için düzenlenen eylem sırasında İspanyol bayrakları arasında. Bugün Madrid'de bir meydanı dolduran binlerce kişi, sağcı partilerin de destek verdiği bir miting düzenledi. İspanyol bayrakları sallayarak Madrid'in finans bölgesinin kalbindeki Plaza de Castilla meydanında toplanan protestocular "hain" diye bağırarak Sanchez'i istifaya çağırdı. Sağ ve radikal sağla bağlantılı 100'den fazla az bilinen küçük grup, mitinge "Birlik, haysiyet, hukuk ve özgürlük için. Hemen genel seçim!" sloganıyla katıldı (Oscar Del Pozo/AFP)

• 29/30

  19 Ekim 2024 - Cadılar Bayramı öncesinde zombi kılığına giren bir sanatçı, Güney Kore yapımı korku filmi Zombi Ekspresi'nden (Train to Busan) ilham alan "Zombi Şinkansen" hızlı treninde performans sergiliyor. Japonya'nın Tokyo'yla Osaka arasında giden treninin kiralanan vagonunda, "yaşayan ölülerle" karşılaşmaya hazır 40'a yakın heyecan meraklısı vardı. Organizatörlerin koltuklara yerleştirdiği oyuncular, performans kapsamında korkunç bir dönüşüm geçirerek diğer yolculara "saldırmaya" başladı. Etkinlik organizatörü Kenta Iwana, "normalde güvenli ve huzurlu olan yolculuğun bir anda kaosa sürüklenişini canlandırmak istediklerini" söyledi (Kim Kyung-Hoon/Reuters)

• 30/30

  18 Ekim 2024 - Filistinliler cuma namazı kılarken bir kişi, İsrail'in saldırıları sırasında yıkılan Büyük Ömer Camisi'nin kalıntıları arasında yürüyor. Memlük ve Osmanlı döneminin mimari özelliklerini taşıyan caminin yaklaşık 1400 yıllık bir geçmişi var. Bir diğer adıyla Gazze Ulu Cami, Gazze'nin en eski, Filistin'in de üçüncü en büyük camisiydi. Bu cami, bir yılı aşkın süredir devam eden çatışmalarda enkaza dönen tarihi alanların en çarpıcı örneklerinden biri (Dawoud Abu Alkas/Reuters)

Araştırmacılar, makalede "eğitimde internetteki büyük ölçekli verileri temizlemenin faydalarını sürdürmek isteniyorsa sorunun ciddiye alınması gerektiğini" yazıyor. Bu durum, halihazırda sistemlerini eğitmek üzere veri kazımış şirketlerin, geçmişte toplanan verilerde gerçek insan çıktısı daha fazla bulunduğu için avantajlı olduğu anlamına da gelebilir.

Bu sorun, çıktıyı filigranla işaretleyip otomatik sistemler tarafından tespit edilerek eğitim kümelerinin dışında tutulmasını sağlamak da dahil birçok farklı yolla çözülebilir. Ama filigranları silmenin kolay olması ve yapay zeka şirketlerinin filigran kullanmakta işbirliğine direnmesi gibi başka problemler de bulunuyor.

"Yapay zeka modelleri özyineleyerek üretilen verilerle eğitildiğinde çöküyor (AI models collapse when trained on recursively generated data)" isimli çalışma Nature'da yayımlandı.


*İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe’nin editöryal politikasını yansıtmayabilir.

independent.co.uk/tech

Independent Türkçe için çeviren: İdil Barım