Diğer yapay zekalardan elde edilen verilerle eğitilen gelecek nesil yapay zeka sohbet botlarının internette giderek artan bir anlamsızlık sarmalına yol açabileceği, yeni bir araştırmada ortaya kondu.

ChatGPT gibi büyük dil modelleri (large language models/LLM'ler) internette hızla yaygınlaşırken, birçok kullanıcı yapay zekayla oluşturulan metin ve görsellerden meydana gelen yepyeni bir ekosistem yaratmak için bu teknolojiyi benimsedi.

Ancak henüz hakem denetiminden geçmemiş yeni bir çalışmaya göre, bu tür yapay zeka sistemlerinden elde edilen çıktı verilerinin sonraki nesil yapay zeka modellerinin de eğitiminde kullanılması, "geri dönüşü olmayan bozukluklara" ve çöp içeriğe sebebiyet verebilir.

ChatGPT gibi yapay zeka modelleri, şimdiye kadar çoğunluğu insan üretimi olan internet platformlarından edinilen muazzam miktarlarda veriyle eğitiliyor.

Ancak yapay zekanın bu tür modelleri kullanarak ürettiği veri internette giderek daha fazla yer kaplıyor.

Aralarında Birleşik Krallık'taki Oxford Üniversitesi'nden isimlerin de bulunduğu araştırmacılar, yapay zekaların art arda birkaç nesil boyunca birbirini eğitmesi halinde ne olacağını anlamaya çalıştı.

Araştırmacılar, LLM'lerin internette içerik yayımlamak için yaygın ölçekte kullanımının "LLM'leri eğitmek için toplanan veriyi kirleteceğini" ve "model çöküşüne" yol açacağını buldu.

Bilim insanları, ön baskısı arXiv'de yayımlanan çalışmada "Diğer modellerin ürettiği veriden öğrenimin model çöküşüne yol açabileceğini keşfettik. Bu, modellerin zaman içinde temel gerçek veri dağılımını unuttuğu bozucu bir süreç" diye yazdı.

Yeni bulgular, LLM'lerin eğitiminde bir "ilk hamle avantajı" bulunduğunu ortaya koyuyor.

Bilim insanları bu değişimi, yapay zeka modelleri insan bestecilerin yarattığı ve insan müzisyenlerin çaldığı müzik üzerinde eğitildiğinde yaşananlara benzetiyor. Elde edilen yapay zeka çıktısı daha sonra diğer modelleri eğitiyor ve bu durum müzik kalitesinin düşmesine yol açıyor.

Sonraki nesil yapay zeka modelleri, kaynaklarında daha düşük kalitede veriyle karşılaşmaları olasılığı sebebiyle, bilim insanlarının "veri zehirlenmesi" adını verdiği bir süreçte bilgiyi hatalı bilgi ekleyerek yanlış yorumlamaya başlayabilir.

Araştırmacılar, veri zehirlenmesi yaşanabilecek ölçeğin LLM'lerin devreye girmesi sonrası büyük çapta değiştiği uyarısında bulundu.

Bilim insanları, orijinal veri korunmuş bile olsa, sadece birkaç veri yinelemesinin esaslı bozulmalara yol açabileceğini söyledi.

Bu da zaman içinde hataların artmasına yol açarak, üretilen verilerden öğrenen modellerin gerçekliği yanlış anlamasına yol açabilir.

Araştırmacılar, "Bu da modelin temeldeki öğrenme görevini yanlış algılamasına neden oluyor" dedi.

Fotoğraflarla dünyadan haberler

Hepsini göster 30

Fotoğraflarla dünyadan haberler

• 1/30

  19 Kasım 2024 - Birleşik Krallık'ta çiftçiler başkent Londra'da protesto düzenledi. Sokaklara dökülen binlerce çiftçi, veraset vergisinin değiştirilme planının geri çekilmesi talep etti. Protestocular arasında ünlü Top Gear programının sunucusu Jeremy Clarkson da yer aldı (Ben Stansall/AFP)

• 2/30

  18 Kasım 2024 - Gazze'nin merkezindeki El-Cela Caddesi caddesinde halk, İsrail saldırısı sonrasında yıkılan evin başında toplanıp enkaz altında kalanları kurtarmaya çalışıyor. Hamas kontrolündeki Gazze'de Sağlık Bakanlığı son 24 saatte İsrail saldırıları sonucunda 76 kişinin öldüğünü ve 158 de yaralı olduğunu açıkladı. İsrail, Lübnan'ın başkenti Beyrut'a da saldırılar düzenledi (Ömer El-Kattaa/AFP)

• 3/30

  18 Kasım 2024 - Brezilya yerlileri Rio de Janerio'daki G20 zirvesi öncesinde düzenlediği protestoda ABD Başkanı Joe Biden, Çin Devlet Başkanı Şi Cinping, Avrupa Komisyonu Başkanı Ursula von der Leyen, Hindistan Başbakanı Narendra Modi, Rusya Devlet Başkanı Vladimir Putin ve Japonya Başbakanı İşiba Şigeru'nun figürlerini suya gömdü. Protesto, dünyanın en zengin ülkelerinin gezegendeki iklim ve biyolojik çeşitlilik sorunlarının çözümüne liderlik etmedikleri söylemiyle düzenlendi (Pablo Porciuncula/AFP)

• 4/30

  16 Kasım 2024 - Ölen bir kambur balina, Güney Afrika'nın yasama başkenti Cape Town'da Ulusal Deniz Kurtarma Enstitüsü (NSRI) tarafından çekiliyor. Avcılık, geçmişte kambur balina sayısında ciddi bir düşüşe yol açmıştı. ABD, 1973'te tüm kambur balinaları nesli tehlikede kategorisine almıştı. 1985'te ticari balina avcılığına getirilen moratoryum, kambur balina popülasyonunun artışında önemli bir rol oynadı. ABD Ulusal Okyanus ve Atmosfer Dairesi, halihazırda 14 farklı popülasyonun 4'ünün neslinin tehlikede, birininse tehdit altında olduğunu bildiriyor (Nic Bothma/Reuters)

• 5/30

  15 Kasım 2024 - Bangkok'ta bir kadın, Loy Krathong festivali sırasında nehir tanrıçasına şükranlarını sunmak için yaprak ve çiçeklerden yapılmış Krathong'u parktaki bir lagüne yerleştiriyor. Festival her yıl, Tayland Ay takviminin 12. ayında, dolunayda kutlanıyor. Ülkedeki en büyük festivallerden biri olan Loy Krathong'da Taylandlılar, su tanrıçasına şükranlarını temsil eden adakları küçük teknelerle yüzdürüyor. Bununla kirlilik veya israf gibi davranışları için af da diliyorlar (Chalinee Thirasupa/Reuters)

• 6/30

  14 Kasım 2024 - National Geographic Pristine Seas, Pasifik Okyanusu'ndaki Solomon Adaları'nın yakınında keşfedilen dünyanın en büyük mercanının 24 Ekim'de çekilen fotoğrafını bugün paylaştı. Bilim insanları, Pristine Seas araştırma gemisinde çalışırken buldukları mercanın "hayat ve renkle dolu" önemli bir keşif olduğunu söylüyor. Genişliği 34 metre ve 5 metreden daha yüksek olan mercan, uzaydan bile görülebiliyor. Devasa mercanın 300 yıllık olduğu tahmin ediliyor (Manu San Felix/National Geographic Pristine Seas/AFP)

• 7/30

  13 Kasım 2024 - Fransa'da, Michelin'in Clermont-Ferrand'daki merkezinde düzenlenen eylemde, Genel Emek Konfederasyonu ceketi giyen bir protestocu bir sis bombasının yanından geçiyor. Araç lastiği üreticisi Michelin, 5 Kasım'da 1250'den fazla kişinin çalıştığı iki fabrikasını kapatmayı planladığını açıklamış ve kararın "son çare" olarak alındığını söylemişti. Sadece işten çıkarma planlarından vazgeçilmesini değil, maaş artışının da garanti altına alınmasını talep eden sendikalarla şirket yönetimi arasında henüz bir uzlaşmaya varılamadı (Olivier Chassignole/AFP)

• 8/30

  12 Kasım 2024 - Bakü'deki Birleşmiş Milletler iklim değişikliği zirvesi COP29'un açılış töreninde dansçılar performans sergiliyor. Bu sene gerçekleştirilen COP’ta ülkelerin enerji politikalarının yanı sıra yeni kolektif finansal hedeflerin belirlenmesi bekleniyor. Zirve, Azerbaycan’ın başkenti Bakü’de başladı. İklim aktivistleri pazartesi günü Gürcistan'da bir miting organize ederek Azerbaycan'ın iklim görüşmelerine ev sahipliği yapmasını protesto etmişti. Tiflis'te bir araya gelen birçok aktivist, Azerbaycan'ın baskıcı politikaları nedeniyle iklim görüşmelerine ev sahipliği yapmayı hak etmediğini savunmuştu. Greta Thunberg, Azerbaycan'ın zirveyi "işlediği suçları ve insan hakları ihlallerini yeşil aklama yoluyla örtbas etme şansı" gibi gördüğünü ileri sürmüştü (Maxim Shemetov/Reuters)

• 9/30

  11 Kasım 2024 - Sudan ordusuyla ilişkili silahlı kişileri taşıyan kamyon, ülkenin doğusundaki Gedaref sokaklarında. Sudan'da rakip generaller arasında Nisan 2023'ten beri süren savaş onbinlerce kişinin ölümüne ve 11 milyondan fazlasının da yerinden olmasına yol açtı. Birleşmiş Milletler'e göre yerinden edilenlerden 3,1 milyonu ülke sınırları dışında sığınacak bir yer arıyor (AFP)

• 10/30

  10 Kasım 2024 - Gazze Şeridi'ndeki Deyr El Balah'ta Filistinliler yemek kuyruğunda. BM Yakın Doğu'daki Filistinli Mültecilere Yardım ve Bayındırlık Ajansı (UNRWA) Genel Komiseri Philippe Lazzarini, Gazze'nin kuzeyinde kıtlık yaşanabileceğini belirterek, "Açlık İsrail devleti tarafından silah olarak kullanılıyor" dedi. Lazzarini, "Gazze Şeridi'ne girmesine izin verilen yardım yetersiz. Günde ortalama 30 tırın biraz üzerinde ve bu günlük ihtiyacın yalnızca yüzde 6'sına tekabül ediyor" ifadelerini kullandı (Ramadan Abed/Reuters)

• 11/30

  9 Kasım 2024 - Almanya Cumhurbaşkanı Frank-Walter Steinmeier, Berlin Duvarı'nın yıkılışının 35. yıldönümünde düzenlenen çiçek bırakma törenine katıldı. Törende Soğuk Savaş döneminde Doğu Berlin'den Batı Berlin'e geçerken hayatını kaybedenler anıldı. Berlin Duvarı'nın yıkılışının yıldönümü kapsamında her yıl canlı müzik, sergiler ve eski duvarın bir ucundan diğerine yapılan koşu da dahil olmak üzere çeşitli etkinlikler gerçekleştiriliyor (Ebrahim Noroozi/AP)

• 12/30

  8 Kasım 2024 - İspanya'daki atlı sivil muhafızlar, ölümcül afetin ardından ülkenin doğusundaki Valensiya bölgesinde zarar gören araçların yanından geçerek mağdurları arıyor. Ülkede son 50 yılda yaşanan en kötü sel felaketi, 210'dan fazla kişinin ölümüne, onlarca kişinin kaybolmasına ve kasabaların çamur altında kalmasına yol açtı. Sel özellikle Valensiya'da büyük bir yıkıma sebep oldu (Jose Jordan/AFP)

• 13/30

  7 Kasım 2024 - Arnavutluk Başbakanı Edi Rama, Ukrayna Devlet Başkanı Volodimir Zelenski'ye sarılıyor. Avrupa Siyasi Topluluğu'nun 5'inci zirvesi, kıtanın karşı karşıya olduğu güvenlik zorluklarını ele almak amacıyla Macaristan'ın başkenti Budapeşte'de başladı. Zirvede Avrupa Birliği üyesi ülkelerin liderleriyle üye olmayan ülkelerin liderleri bir araya geliyor. Ana gündem maddeleri arasında düzensiz göçle mücadele, ekonomi güvenliği ve iklim de var (Ludovic Marin/AFP)

• 14/30

  6 Kasım 2024 - 2024 ABD Başkanlık Seçimi'ni kazanan Donald Trump, Florida eyaletindeki West Palm Beach Kongre Merkezi'nde konuşma yaptı. Trump, zafer konuşmasında kendisini destekleyen herkese teşekkür etti ve ekonomik büyüme ve ulusal güvenlik vaatlerinde bulundu. Sandıkların kapanmasıyla birlikte erken sonuçlar, seçim yarışının başa baş gittiğini gösterse de Trump, salıncak eyaletlerde kazanarak zafere ulaştı. Trump, rakibi Demokrat Parti'nin başkan adayı Kamala Harris'ten yaklaşık 5 milyon fazla oy aldı (Jim Watson/AFP)

• 15/30

  5 Kasım 2024 - ABD'nin New York kentinde seçmenler oy kullanıyor. ABD'de seçim gününe gelindi ve Demokrat Parti'nin adayı Kamal Harris'le Cumhuriyetçi Parti'nin adayı Donald Trump arasındaki yarış haftalardır başa baş ilerliyor. Seçimin sonucunu 7 salıncak eyaletteki oyların belirleyeceği düşünülüyor (Leonardo Munoz/AFP)

• 16/30

  4 Kasım 2024 - İspanya'nın Valensiya bölgesindeki Alfafar'ın caddelerinde polis memurları sokaklardaki çamurun temizlenmesine yardım ediyor. İspanya'da uzun zamandır görülen en kötü sel felaketinde hayatını kaybedenlerin sayısı 217'ye ulaşırken arama kurtarma çalışmaları hâlâ sürüyor. Yetkililer sokakların temizlenmesinin en az bir hafta süreceğini belirtirken bölgede 17 bin polis, jandarma, asker ve sivil koruma görevlisi çalışıyor (Jose Jordan/AFP)

• 17/30

  3 Kasım 2024 - Brezilya'daki Formula 1 Sao Paulo Grand Prix'sini Red Bull Racing'in Hollandalı pilotu Max Verstappen kazandı. "Uçan Hollandalı", son derece kaotik geçen yarışa 17. sıradan başlamıştı. İkinci ve üçüncü sırayı Alpine pilotları Esteban Ocon ve Pierre Gasly alırken, pilotlar şampiyonasında Verstappen'le Norris arasındaki fark 62'ye çıktı (Nelson Almeda/AFP)

• 18/30

  2 Kasım 2024 - Hindistan'ın Mumbai şehrinde, Ölüler Günü'nde mezara çiçek koyan bir kadının drone görüntüsü. Cadılar Bayramı'yla başlayan üç günlük dönemde, Hıristiyanlar ölülerle yaşayanlar arasındaki perdenin kalktığına inanıyor. Hıristiyanlar, Hindistan nüfusunun yalnızca yüzde ikisini oluşturuyor. Geçen ay çeşitli Hıristiyan mezheplerinin liderleri, kendilerine yönelik şiddetteki artışı protesto etmek üzere Yeni Delhi'de eylem düzenlemişti (Francis Mascarenhas/Reuters)

• 19/30

  1 Kasım 2024 - Afrika penguenleri, Cape Town yakınlarında turistlerin uğrak noktalarından olan penguen kolonisinde, sahilde dinleniyor. Boulders penguen kolonisi 1983'te kurulmuş ve kolonideki kuş sayısı çevredeki ada kolonileri sayesinde artırılmıştı. Dünya Doğayı ve Doğal Kaynakları Koruma Birliği (IUCN) yakın zamanda Afrika penguenini, nesli tehlike altında olan türlerden nesli kritik tehlikedeki tür kategorisine taşıdı. Halihazırda popülasyonunun yüzde 97'sini kaybetmiş olan kuşun nesli, bir değişiklik olmadığı takdirde 4 bin günden kısa bir süre içinde tükenebilir (Rodger Bosch/AFP)

• 20/30

  31 Ekim 2024 - ABD'nin Missouri eyaletindeki St. Charles kentinde bir yurttaş, Cadılar Bayramı'na özel kıyafetiyle oy kullandı. Seçime sayılı günler kala Kamala Harris ve Donald Trump arasındaki yarış başabaş devam ediyor. ABD Başkanı Joe Biden'ın, destekçilerini "çöp" diye nitelemesi üzerine Cumhuriyetçi Parti'nin başkan adayı Trump, çöp kamyonuna bindi. Öte yandan Arnold Schwarzenegger, Kamala Harris'i desteklediğini açıkladı (Robert Cohen/AP)

• 21/30

  30 Ekim 2024 - İspanya'nın güneyindeki Valensiya'da gerçekleşen sel, arabaları bu hale getirdi. Kurtarma ekipleri, şiddetli yağmurların yol açtığı seller sonucunda 95 kişinin hayatını kaybettiğini açıkladı. Kayıpları arama çalışmalarıysa sürüyor. Valensiya'da 1996'dan bu yana metrekareye en fazla yağışın düştüğü bildirildi. Meydana gelen felaketten dolayı 3 günlük ulusal yas ilan edildiği açıklandı (Jose Jordan/AFP)

• 22/30

  29 Ekim 2024 - Gazze Şeridi'nin merkezinde Filistinli mültecilerin kaldığı Nuseyrat kampındaki Birleşmiş Milletler Yardım ve Bayındırlık Ajansı'na (UNRWA) ait yardım dağıtım merkezinin kapısındaki açıklıktan bir adam dışarı bakıyor. İsrail, parlamentosunun yıkıma uğramış Gazze Şeridi'ndeki ana BM yardım kuruluşunu yasaklayan bir tasarıyı onaylamasının ardından artan bir uluslararası tepkiyle karşı karşıya kalıyor. 90 gün içinde yürürlüğe girmesi beklenen mevzuatın, UNRWA'nın Doğu Kudüs genel merkezinin kapatılmasına ve Refah üzerinden Gazze'ye insani yardım ulaştırılmasının engellenmesine yol açması öngörülüyor (Eyad Baba/AFP)

• 23/30

  28 Eylül 2024 - Eski ABD Başkanı Barack Obama, ABD Başkan Yardımcısı ve Demokrat Parti'nin başkan adayı Kamala Harris'in Pensilvanya eyaletinin Philadelphia kentinde düzenlenen mitinginde konuştu. Ayrıca Bruce Springsteen ve John Legend gibi sanatçılar da sahneye çıkıp seyircileri Harris'e oy vermeye ve arkadaşlarıyla ailelerini sandık başına gitmeye teşvik etmeye çağırdı (Matthew Hatcher/AFP)

• 24/30

  27 Ekim 2024 - Ferrari pilotu Carlos Sainz Jr. Formula 1 Meksika Grand Prix'sinde pitte. İspanyol pilot kariyerindeki 4. F1 zaferini elde ederken, takım arkadaşı Charles Leclerc, son turlarda yaptığı hatayla ikinciliği McLaren'in şampiyonluk mücadelesi veren pilotu Lando Norris'e kaptırıp üçüncülüğe razı oldu. Pilotlar şampiyonasında zirvedeki isim Max Verstappen ise yarış içinde toplamda 20 saniye ceza aldı ve 6. sırada bitirdi (Carlos Perez Gallardo/Reuters)

• 25/30

  26 Ekim 2024 - Birleşik Krallık'ta göçmen karşıtı protestolardaki bir eylemci, Cumhuriyetçi başkan adayı ve eski ABD Başkanı Donald Trump'ın maskesini takıyor. Eylem İngiltere'nin başkenti Londra'da, ülkedeki aşırı sağcı grupların başında gelen İngiliz Savunma Ligi'nin eski lideri Tommy Robinson'ın çağrısıyla organize edilmişti. Robinson, planladığı yürüyüş öncesi Terörle Mücadele Yasası çerçevesinde suçlanarak dün gözaltına alınmıştı. Irkçılık karşıtları da aşırı sağcılara tepki amacıyla eylem düzenledi. İki grubun karşı karşıya gelmesini engellemek üzere güvenlik önlemleri alındı (Hollie Adams/Reuters)

• 26/30

  25 Ekim 2024 - Rusya'nın Ukrayna'ya saldırısı sırasında Kursk bölgesinde Rus askerleriyle girdiği çatışmada hayatını kaybeden Ukraynalı asker Volodimir Baranov için Çernihiv'de düzenlenen cenaze töreninde halk milli marş söylüyor (Maksym Kishka/Reuters)

• 27/30

  24 Ekim 2024 - Mozambik'in başkenti Maputo'daki Maxaquene mahallesinde protestocular, güvenlik güçleriyle çatıştı. Çevik kuvvet polisi, iki muhalifin vurularak öldürülmesinden günler sonra seçimlere hile karıştırıldığı iddiasıyla eylem düzenleyen kalabalığı dağıtmak için göz yaşartıcı gaz kullandı. Avrupa Birliği gözlemcileri de Mozambik seçimlerinde düzensizlikler ve bazı sandık sonuçlarında oynama olduğunu tespit etmişti (Alfredo Zuniga/AFP)

• 28/30

  23 Ekim 2024 - Gazze Şeridi'nin güneyindeki Han Yunus'ta un kıtlığı yaşanıyor. İsrail, Gazze Şeridi'ne gıda, su, yakıt ve elektrik girişini engellemeye devam ediyor. Savaştan önce bile Gazze nüfusunun sadece yüzde 4'ü güvenli ve temiz suya erişim sağlayabiliyordu. Öte yandan Birleşmiş Milletler Genel Sekreteri Antonio Guterres, "Gazze'nin kuzeyindeki çocuk felci aşılama kampanyasının son aşamasının artan şiddet ve erişim eksikliği nedeniyle ertelenmesinden büyük endişe duyduğunu" söyledi (Bashar Taleb/AFP)

• 29/30

  22 Ekim 2024 - İsrail savaş uçağı Beyrut'un güneyindeki bir mahalledeki binayı vurdu. Ayrıca İsrail'in Beyrut'ta Refik Hariri Devlet Hastanesi'nin çevresini hedef aldığı saldırıda ölenlerin sayısı 13'e yükseldi (AFP)

• 30/30

  21 Ekim 2024 - ABD'nin Kuzey Karolina eyaletinde gerçekleştirilen kampanya mitinginde eski ABD Başkanı Donald Trump'ın destekçilerinden biri, break dans yapıyor. Birleşik Devletler'de 2024 Başkanlık Seçimi, 5 Kasım'da gerçekleşecek. Donald Trump, pazar günü Pensilvanya eyaletindeki bir McDonald's'ta çalışırken, Kamala Harris, Stevie Wonder'la şarkı söyledi (Julia Demaree Nikhinson/AP)

Bilim insanları, insan yapımı orijinal verinin gelecek yapay zeka eğitimleri için korunması çabalarının yanı sıra yapay zeka üretimi içeriğin insan üretimi içerikten ayrıştırılması için adımlar atılması gerektiği uyarısında bulundu.

Araştırmacılar çalışmada, "Öğrenmenin uzun bir dönem sürdürülebilmesini sağlamak için, orijinal veri kaynağına erişimin korunması ve LLM'lerin oluşturmadığı ek verilerin zaman içinde mevcudiyetini yitirmemesi gerekiyor" diye yazdı.

Aksi takdirde, internette bu teknolojinin yaygın benimsenmesi öncesi taranmış veya büyük ölçekte insanlarca üretilmiş verilere doğrudan erişim olmaksızın LLM'lerin yeni sürümlerini eğitmek giderek daha zor hale gelebilir.

* İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe’nin editöryal politikasını yansıtmayabilir.

https://www.independent.co.uk/tech

Independent Türkçe için çeviren: Kerim Çelik