Diğer yapay zekalardan elde edilen verilerle eğitilen gelecek nesil yapay zeka sohbet botlarının internette giderek artan bir anlamsızlık sarmalına yol açabileceği, yeni bir araştırmada ortaya kondu.

ChatGPT gibi büyük dil modelleri (large language models/LLM'ler) internette hızla yaygınlaşırken, birçok kullanıcı yapay zekayla oluşturulan metin ve görsellerden meydana gelen yepyeni bir ekosistem yaratmak için bu teknolojiyi benimsedi.

Ancak henüz hakem denetiminden geçmemiş yeni bir çalışmaya göre, bu tür yapay zeka sistemlerinden elde edilen çıktı verilerinin sonraki nesil yapay zeka modellerinin de eğitiminde kullanılması, "geri dönüşü olmayan bozukluklara" ve çöp içeriğe sebebiyet verebilir.

ChatGPT gibi yapay zeka modelleri, şimdiye kadar çoğunluğu insan üretimi olan internet platformlarından edinilen muazzam miktarlarda veriyle eğitiliyor.

Ancak yapay zekanın bu tür modelleri kullanarak ürettiği veri internette giderek daha fazla yer kaplıyor.

Aralarında Birleşik Krallık'taki Oxford Üniversitesi'nden isimlerin de bulunduğu araştırmacılar, yapay zekaların art arda birkaç nesil boyunca birbirini eğitmesi halinde ne olacağını anlamaya çalıştı.

Araştırmacılar, LLM'lerin internette içerik yayımlamak için yaygın ölçekte kullanımının "LLM'leri eğitmek için toplanan veriyi kirleteceğini" ve "model çöküşüne" yol açacağını buldu.

Bilim insanları, ön baskısı arXiv'de yayımlanan çalışmada "Diğer modellerin ürettiği veriden öğrenimin model çöküşüne yol açabileceğini keşfettik. Bu, modellerin zaman içinde temel gerçek veri dağılımını unuttuğu bozucu bir süreç" diye yazdı.

Yeni bulgular, LLM'lerin eğitiminde bir "ilk hamle avantajı" bulunduğunu ortaya koyuyor.

Bilim insanları bu değişimi, yapay zeka modelleri insan bestecilerin yarattığı ve insan müzisyenlerin çaldığı müzik üzerinde eğitildiğinde yaşananlara benzetiyor. Elde edilen yapay zeka çıktısı daha sonra diğer modelleri eğitiyor ve bu durum müzik kalitesinin düşmesine yol açıyor.

Sonraki nesil yapay zeka modelleri, kaynaklarında daha düşük kalitede veriyle karşılaşmaları olasılığı sebebiyle, bilim insanlarının "veri zehirlenmesi" adını verdiği bir süreçte bilgiyi hatalı bilgi ekleyerek yanlış yorumlamaya başlayabilir.

Araştırmacılar, veri zehirlenmesi yaşanabilecek ölçeğin LLM'lerin devreye girmesi sonrası büyük çapta değiştiği uyarısında bulundu.

Bilim insanları, orijinal veri korunmuş bile olsa, sadece birkaç veri yinelemesinin esaslı bozulmalara yol açabileceğini söyledi.

Bu da zaman içinde hataların artmasına yol açarak, üretilen verilerden öğrenen modellerin gerçekliği yanlış anlamasına yol açabilir.

Araştırmacılar, "Bu da modelin temeldeki öğrenme görevini yanlış algılamasına neden oluyor" dedi.

Fotoğraflarla dünyadan haberler

Hepsini göster 30

Fotoğraflarla dünyadan haberler

• 1/30

  29 Aralık 2024 - Güney Kore'nin başkenti Seul'de halk, Muan Havalimanı'nda meydana gelen uçak kazasının yayınını izliyor. Asya ülkesinin güneyindeki havalimanına iniş yapan Boeing 737-800 tipi Jeju Air uçağı bilinmeyen bir nedenle pistten çıkarak duvara çarptı. 175 yolcu ve 6 mürettebat olmak üzere 181 kişinin bulunduğu alev alan uçaktan sadece iki kişi sağ çıktı. Yaralanan iki uçuş görevlisi hastaneye kaldırıldı. Uçağın Tayland'dan kalktığı ve çoğunlukla Noel tatilinden dönenleri taşıdığı bildirildi. Kaza nedeniyle ülkede 7 gün ulusal yas ilan edildi (Jung Yeon-Je/AFP

• 2/30

  28 Aralık 2024 - İspanya'nın güneydoğusundaki Ibi kasabasında düzenlenen kış festivalinde, askeri kıyafetler giyen katılımcılar belediye binasının dışında un, yumurta ve havai fişekler kullanarak sahte bir darbe gerçekleştiriyor. Un Savaşları Festivali (Els Enfarinats), İspanya'da şakalarla kutlanan geleneksel Masumlar Günü etkinliklerinin bir parçası (Jaime Reina/AFP)

• 3/30

  27 Aralık 2024 - Güney Kore'nin başkenti Seul'de, Ulusal Meclis Başkanı Woo Won Shik, vekaleten Devlet Başkanı olan Han Duck-soo'nun azledilmesi için düzenlenen genel kurulda konuşuyor. Han Duck-soo, Devlet Başkanı Yoon'un 3 Aralık'taki sıkıyönetim girişimi nedeniyle görevden alınmasının ardından başkanlığı geçici süreliğine devralmıştı. İktidardaki Halkın Gücü Partisi milletvekillerinin protestolarına rağmen Ulusal Meclis'te yapılan oylama sonucunda ülke tarihinde ilk kez bir başkan vekili görevden alındı (Ahn Young-joon/AP)

• 4/30

  26 Aralık 2024 - Taliban güvenlik personeli, Paktika vilayetinin doğusundaki Barmal ilçesinde Pakistan tarafından düzenlenen hava saldırılarından iki gün sonra hasar görmüş bir aracı inceliyor. Taliban hükümeti 25 Aralık'ta yaptığı açıklamada Pakistan'ın Afganistan'ın doğusundaki bir sınır bölgesinde düzenlediği hava saldırılarında 46 sivilin öldüğünü belirtirken Pakistanlı bir güvenlik yetkilisi bombardımanın "teröristlerin saklandığı yerleri" hedef aldığını söyledi. (Ahmad Sahel Arman/AFP)

• 5/30

  25 Aralık 2024 - Devlet Acil Durum Servisi'nden bir kurtarma görevlisi, Rusya'nın Harkiv'e yönelik drone saldırısının ardından bir konutta çıkan yangını söndürmeye çalışıyor. Ukrayna Cumhurbaşkanı Volodimir Zelenski savaştan zarar gören ülkesinin elektrik şebekesine Noel günü 170'den fazla füze ve drone fırlatarak bir kişinin ölümüne ve yaygın elektrik kesintilerine neden olan Rusya'nın "insanlık dışı" saldırısını kınadı. Ülke sabah 5:30'da hava saldırısı alarmıyla uyandı ve kısa süre sonra hava kuvvetleri, Rusya'nın Karadeniz'den Kalibr seyir füzeleri fırlattığını bildirdi (Sergey Bobok/AFP)

• 6/30

  24 Aralık 2024 - Panama'nın başkenti Panama'da polis ABD Büyükelçiliği önünde düzenlenen protestoda göstericiler tarafından yerleştirilen seçilmiş ABD Başkanı Donald Trump'ın resminin önünde nöbet tutuyor. Panama Cumhurbaşkanı Jose Raul Mulino, Donald Trump'ın insan yapımı su yolunu geri alma tehdidinin ardından 23 Aralık'ta ülkenin eski liderleriyle birlikte imzaladığı bir bildiride Panama Kanalı'nın statüsünün müzakere edilemez olduğunu söyledi. Trump, "Donanmamız ve ticaretimiz çok haksız ve adaletsiz bir şekilde muamele görüyor. Her yerde olduğu gibi Panama Kanalı'nda da kazıklanıyoruz" demiş ve kanalın ABD'ye iade edilebileceğini öne sürmüştü (Arnulfo Franco/AFP)

• 7/30

  23 Aralık 2024 - Mozambik'te protestocular başkent Maputo'da yanan bir barikatın yanında toplanıyor. Hile iddialarının haftalarca süren ölümcül sokak çatışmalarını tetiklemesinin ardından ülkenin en yüksek mahkemesi, iktidar partisinin tartışmalı ekim seçimindeki zaferini onayladı. Kararın ardından muhalefetin ayaklanma tehdidinde bulunması sonrası Güney Afrika ülkesinde daha fazla şiddet olayının patlak vermesinden endişe ediliyor (Amilton Neves/AFP)

• 8/30

  22 Aralık 2024 - Filistinliler, İsrail'in Gazze'deki El-Jalaa Caddesi'ne düzenlediği saldırıda isabet alan sivil aracı inceliyor. Gazze Sağlık Bakanlığı tarafından yapılan son güncellemeye göre, İsrail saldırıları son 24 saatte Gazze Şeridi genelinde en az 32 Filistinlinin ölümüne ve 54 kişinin yaralanmasına yol açtı. İsrail güçleri, kuşatma altındaki Kuzey Gazze'de zorlukla faaliyet gösteren Kamal Adwan Hastanesi'nin içindeki ve yakınındakilere tahliye emri verdikten sonra hastaneye saldırı düzenledi (Omar Al-Qattaa/AFP)

• 9/30

  21 Aralık 2024 - Dün akşam Almanya'da en az 5 kişinin ölümüne ve 200 kişinin yaralanmasına yol açan saldırının gerçekleştiği Noel pazarının yakınındaki kilisenin girişine çiçekler bırakılıyor. Ölümcül saldırıda bir kişi aracını pazardaki kalabalığın üzerine sürmüştü. Kiliseye çiçek bırakanlardan Almanya Başbakanı Olaf Scholz, ülkenin birlik içinde kalması gerektiğini vurgulayarak failin cezasız kalmayacağına söz verdi. Polis, saldırıdan sorumlu olduğunu düşündüğü 50 yaşındaki Suudi Arabistanlı bir doktoru gözaltına aldı (Michael Probst/AP)

• 10/30

  20 Aralık 2024 - Tayvan'da ana muhalefetteki Çin Milliyetçi Partisi (Komintang) milletvekilleri (beyaz giyenler) parlamentoya girmeye çalışıyor. Demokratik İlerleme Partisi'nden (DPP) çok sayıda milletvekili, perşembe gecesi parlamentoyu basarak tartışmalı tasarıların geçmesini önlemek için Yasama Yuanı'na girişleri engellemiş ve içeride barikat kurmuştu. Sözkonusu yasa tasarıları arasında seçilmiş yetkililerin görevden alınma koşullarının sıkılaştırılması için planlanan bir değişiklik de yer alıyor (I-Hwa Cheng/AFP)

• 11/30

  19 Aralık 2024 - Luigi Nicholas Mangione, Pensilvanya'nın Hollidaysburg kentindeki Blair County Adliyesi'nden ayrılıyor. UnitedHealthcare CEO'su Brian Thompson'ı 4 Aralık'ta Manhattan'da bir sokakta vurmakla suçlanan 26 yaşındaki Mangione, geçen hafta Pensilvanya'daki bir McDonald's'ta görüldüğünde sona eren, ülke çapında bir aramayı tetiklemişti. Eski veri mühendisi, cinayetle ilgili suçlamalarla yüzleşmek üzere New York'a iade edilme çabalarıyla mücadele ederken bu eyalette hapiste tutuluyor (Gene J. Puskar/AFP)

• 12/30

  18 Aralık 2024 - Suriye'de başkent Şam'ın dışındaki Cobar'da bir aile, tahrip olmuş mezarlıkta. Baas rejiminin devrilmesinin ardından Suriye'de toplu mezarlar ve cesetler bulunmaya devam ediyor. Şam'daki Seyyide Zeynep bölgesinde bir depoda aralarında çocukların da olduğu, 20'den fazla kişiye ait olduğu düşünülen ceset kalıntıları bulundu. Öte yandan Avrupa Birliği Komisyonu Başkanı Ursula von der Leyen, AB'nin Suriye'nin yeniden imarına katkı sağlamaya hazır olduğunu belirtti (Aris Messinis/AFP)

• 13/30

  17 Aralık 2024 - Gazze Şeridi'ndeki Han Yunus kentinde Filistinli bir kız çocuğu yemek dağıtım merkezinde sıra bekliyor. Gazze Savaşı sürerken, ateşkesin sağlanması ve rehinelerin serbest bırakılmasına dair aylardır süren açmazın ardından İsrail ve Hamas'ın anlaşmaya yakın olabileceği belirtiliyor. İsrail'in Gazze'deki askeri varlığını sürdürmekte ısrar etmesi ve Hamas'ın İsrail askerleri çekilene kadar rehineleri serbest bırakmayı reddetmesi nedeniyle bu yıl defalarca yapılan görüşmeler başarısızlıkla sonuçlanmıştı (Bashar Taleb/AFP)

• 14/30

  16 Aralık 2024 - Almanya'da Başbakan Olaf Scholz başkanlığındaki hükümet, Federal Meclis'te yapılan güven oylamasını geçemeyerek düştü. Hür Demokrat Parti'nin (FDP) ayrılması sonrasında Sosyal Demokrat Parti (SPD) ve Yeşiller'den oluşan koalisyon hükümeti dağıldı ve erken seçimin yolu açıldı. Almanya 23 Şubat'ta sandık başına gidecek (John Macdougall/AFP)

• 15/30

  15 Aralık 2024 - Suriye'nin başkenti Şam'da sokaklara dökülen halk, ülkenin yeni yöneticilerinin belirlediği bayrağı açtı. Birleşmiş Milletler Suriye Özel Temsilcisi Geir Pedersen, Suriye'de Beşar Esad rejiminin devrilmesinin ardından ilk kez Şam'a gitti. Pedersen, "Elbette bu değişim kendi başına büyük umutlar oluşturuyor, ancak hepimiz önümüzde hala birçok zorluk olduğunu biliyoruz" diye konuştu. Öte yandan Golan Tepeleri civarındaki tampon bölgeye giren İsrail ordusu, işgali daha ileriye taşıyarak başkent Şam'ın 25 kilometre yakınlarına kadar sokuldu (Amr Abdallah Dalsh/Reuters)

• 16/30

  14 Aralık 2024 - Güney Kore Ulusal Meclisi Başkanı Woo Won-sik, Seul'daki genel kurulda, Başkan Yoon Suk Yeol'un azledilmesine yönelik önergeyi kabul ederek tokmağı vuruyor. Güney Koreli milletvekilleri, 3 Aralık'taki sıkıyönetim girişiminin ardından Yoon'un görevden alınması için bugün oy kullandı. Yoon, önergenin kabulünden sonra yaptığı açıklamada "Şimdilik ara versem de halkla birlikte geleceğe uzanan yolculuğumu sürdüreceğim" dedi (YONHAP/AFP)

• 17/30

  13 Aralık 2024 - İtalya'da polis, öğrencilerin Filistinlilere destek ve hükümetin politikalarına karşı eylemi sırasında, Torino Politeknik Üniversitesi'nin önünde nöbet tutuyor. USB ve Cobas sendikalarının düzenlediği eğitim, ulaşım ve kamu sağlığını kapsayan ulusal grev gününde, Reuters'e konuşan bir sendika sözcüsü "Bizim grevimiz savaş ekonomisine ve dolayısıyla hükümetimizin İsrail devletine verdiği desteğe karşı bir grev" dedi. Hükümetin İsrail politikalarının protesto edilmesinin yanı sıra daha yüksek ücretler ve daha kısa çalışma haftası da eylemcilerin talepleri arasında yer alıyor (Marco Bertorello/AFP)

• 18/30

  12 Aralık 2024 - Donald Trump, Time dergisinin New York Borsası'nda düzenlediği Yılın Kişisi etkinliğinde konuştu. Time, seçilmiş başkanın artık "dünyanın en güçlü adamı" olduğunu belirtti. Dergiden yapılan açıklamada Trump'ın, "tarihi boyutlarda bir geri dönüşe imza attığı, nesilde bir kez görülen siyasi bir yeniden yapılanmaya öncülük ettiği" belirtildi. Trump bu unvanı ilk başkanlık seçim zaferinin ardından 2016 yılında da almıştı (Alex Brandon/AP)

• 19/30

  11 Aralık 2024 - Gazze Şeridi'nde çocuklar, enkaz yığınlarının arasında su taşıyor. İsrail'in Gazze Şeridi'ne yönelik saldırıları 14 aydan fazla süredir devam ederken, son 15 günde 556 Filistinli hayatını kaybetti, 1511 kişi yaralandı (Ömer el-Kette/AFP)

• 20/30

  10 Aralık 2024 - ABD'nin Kaliforniya eyaletinin Malibu kentinde çıkan yangın büyüyor. Rüzgarın şiddetlendirdiği yangın, Hollywood elitlerinin ikamet ettiği kıyı topluluğundaki evleri ve işyerlerini tehdit ediyor (David Swanson/AFP)

• 21/30

  9 Aralık 2024 - Suriyeli kurtarma ekipleri Şam'daki Sednaya hapishanesinde gizli bodrum katlarını ararken insanlar hapishanenin çatısında duruyor. Beşar Esad yönetiminin pazar günü düşmesinden beri, yakınlarından haber almayı uman Suriyeli siviller ülkenin en gizli ve en kötü şöhretli hapishanesi Sednaya'ya akın ediyor. İnsan hakları kuruluşlarınca "insan mezbahası" adıyla anılan Sednaya çok sıkı saklanan bir sırdı ve şu ana dek hapishanenin içinden hiç görüntü hiç alınamamıştı (Abdülaziz Ketaz/AFP)

• 22/30

  8 Aralık 2024 - Suriye'nin başkenti Şam'daki Emevi Camii. Heyetu Tahriru'ş Şam (HTŞ) öncülüğündeki silahlı örgütler başkent Şam'ın kontrolünü ele geçirdi. BM Genel Sekreteri'nin Suriye Özel Temsilcisi Geir Pedersen, ülkenin bir dönüm noktasında olduğunu söyledi. Suriyeli muhalifler, bugün 16.00'dan yarın 05.00'e kadar Şam'da sokağa çıkma yasağı ilan etti. Kutlama amacıyla da olsa kalabalık meydanlarda ateş açılmaması için çağrı yapıldı (Aref Tammawi/AFP)

• 23/30

  7 Aralık 2024 - İtfaiyeciler, Hollanda'nın Lahey kentindeki bir mahallede meydana gelen patlamanın etkisiyle yıkılan bir binanın önünde duruyor. Sabah erken saatlerde yaşanan patlamada 5 daire yerle bir oldu. Yetkililer en az bir kişinin hayatını kaybettiğini ve 3 kişinin yaralı olduğunu bildirdi. Enkaz altında kalanların sayısıysa net değil. Patlamanın nedeni henüz bilinmiyor fakat polis olay yerinden hızla ayrılan bir arabayı aradıklarını belirtti (Phil Nijhuis/AP)

• 24/30

  6 Aralık 2024 - Güney Kore Devlet Başkanı Yoon Suk Yeol'un görevden alınmasını talep eden protestocular, başkent Seul'deki Ulusal Meclis önünde toplandı. Yoon, hem muhalefetten hem de kendi partisinden aldığı tepkilerle 3 Aralık'taki sıkıyönetim kararından yaklaşık 6 saat sonra geri adım atmak zorunda kalmıştı. Muhalefet partileri, başkanın azledilmesi için önerge verirken sivil toplum kuruluşları da lideri istifaya çağırıyor (Kim Hong-ji/Reuters)

• 25/30

  5 Aralık 2024 - İsrail'in Gazze Şeridi'nin güneyindeki Han Yunus yakınlarındaki Mevasi kampına hava saldırısı düzenledi. İsrail hava saldırıları çarşamba günü Gazze'nin güneyinde yerlerinden edilmiş Filistinlilerin kaldığı kampı vurdu ve yakındaki bir hastanenin yöneticisine göre en az 21 kişi hayatını kaybetti. Cenevre merkezli sivil toplum kuruluşu Avrupa-Akdeniz İnsani Hakları İzleme Örgütü (Euro-Med), İsrail'in dün düzenlediği saldırıda Filistinlileri "diri diri yaktığını" belirtti (Abdel Kareem Hana/AP)

• 26/30

  4 Aralık 2024 - ABD'nin New York kentinin Manhattan bölgesinde polis, Hilton Otel'in önünde gerçekleşen saldırının ardından olay yerindeki mermi kovanlarını işaretliyor. ABD'nin en büyük sağlık sigorta şirketlerinden UnitedHealthcare'in CEO'su Brian Thompson, silahlı saldırıda öldürüldü. Saldırganın olay yerinden bisikletle kaçıp Central Park'a gittiği açıklandı. Polis, sokak ortasında 50 yaşındaki Thompson’ı öldüren katili hâlâ arıyor (Stefan Jeremiah/AP)

• 27/30

  3 Aralık 2024 - Eski Gana Devlet Başkanı ve Ulusal Demokratik Kongre'nin (NDC) başkan adayı John Mahama'nın destekçileri Akra'da, 7 Aralık'ta yapılacak başkanlık seçimi öncesinde seçim konvoyunda NDC siyasi partisinin bayraklarını kaldırıyor. Gana'da iki dönem görev yaptıktan sonra istifa eden Devlet Başkanı Nana Akufo-Addo'nun yerine geçecek isim için yapılacak oylamada ekonominin yönetimi kilit rol oynayacak. Oylama, Akufo-Addo'nun iktidardaki Yeni Yurtsever Parti'nin (NPP) adayı ve mevcut Başkan Yardımcısı Mahamudu Bawumia'yla eski başkan ve NDC partisinin adayı John Mahama arasında sıkı bir yarışa dönüştü. Akufo-Addo'nun ikinci dönemine ekonomik kriz, enflasyon ve Gana'nın borç yükünü yönetmek için Uluslararası Para Fonu'yla 3 milyar dolarlık bir anlaşma yapmak zorunda bırakan zayıf para birimi damgasını vurmuştu (Olympia De Maismont/AFP)

• 28/30

  2 Aralık 2024 - Gürcistan'ın başkenti Tiflis'te Avrupa Birliği (AB) kararının ardından başlayan protestolar sürüyor. Hükümet, AB'ye katılım müzakerelerinin 2028'e kadar askıya alınmasına karar vermişti. İçişleri Bakanlığı protestolarda 113 polisin yaralandığını ve 224 göstericinin de gözaltına alındığını duyurdu (Zurab Tsertsvadze/AP)

• 29/30

  1 Aralık 2024 - Şili'nin başkenti Santiago'da dev Örümcek-Adam balonu, Noel festivalinde sokaklardan geçti. Noel sezonunun başlangıcına işaret eden geleneksel Disney geçidinde Oyuncak Hikayesi'nden Buzz Lightyear ve ikonik Mickey Mouse'un yanı sıra birçok çizgi film karakteri vardı (Esteban Felix/AP)

• 30/30

  30 Kasım 2024 - Kosova'nın kuzeyinde, ülkenin elektriğinin neredeyse tamamını üreten iki termik santrale su sağlayan hasarlı kanalda bir polis devriye geziyor. Polis, cuma günü Varage köyünde meydana gelen patlamanın ardından kanalın çevresinde güvenlik önlemlerini artırdı. Patlama sonrasında güç kaynaklarının büyük ölçüde sağlam olduğu görülmüş ancak bazı bölgelere içme suyu tedarikinde sıkıntı yaşanmıştı. Gece boyunca yapılan çalışmalarla, sabah saatlerinde geçici bir çözümle tekrar su verilmeye başlandı. Komşu ülke Sırbistan, önemli kanaldaki patlamadan sorumlu olduğu suçlamalarını reddetmişti (Valdrin Xhemaj/Reuters)

Bilim insanları, insan yapımı orijinal verinin gelecek yapay zeka eğitimleri için korunması çabalarının yanı sıra yapay zeka üretimi içeriğin insan üretimi içerikten ayrıştırılması için adımlar atılması gerektiği uyarısında bulundu.

Araştırmacılar çalışmada, "Öğrenmenin uzun bir dönem sürdürülebilmesini sağlamak için, orijinal veri kaynağına erişimin korunması ve LLM'lerin oluşturmadığı ek verilerin zaman içinde mevcudiyetini yitirmemesi gerekiyor" diye yazdı.

Aksi takdirde, internette bu teknolojinin yaygın benimsenmesi öncesi taranmış veya büyük ölçekte insanlarca üretilmiş verilere doğrudan erişim olmaksızın LLM'lerin yeni sürümlerini eğitmek giderek daha zor hale gelebilir.

* İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe’nin editöryal politikasını yansıtmayabilir.

https://www.independent.co.uk/tech

Independent Türkçe için çeviren: Kerim Çelik