Son birkaç aydır internet kullanıcılarının gözdesi konumundaki yapay zeka sohbet botu ChatGPT'nin geliştirme sürecinin "karanlık" tarafı ortaya çıktı.

Geliştirici firma OpenAI'ın sohbet botunun kullanımını daha güvenli hale getirmek için binlerce satırlık metinleri kontrol edip filtrelemeleri için Kenyalı işçileri görevlendirdiği ve bu zorlu iş için saatte 2 dolardan az ödeme yaptığı bildirildi.

Time'ın haberine göre, Kenyalı işçileri ChatGPT'nin eğitilmesi için kullanılan metinlerdeki "toksik" verileri tespit edip müfredattan çıkarmakla görevlendirildi.

Söz konusu veriler arasında çocuk ve hayvan istismarı, cinayet, intihar, işkence ve ensest gibi temaları içerikler vardı.

ChatGPT, kasım ayı sonunda piyasaya sürülmesinden bu yana popülaritesini artırıyor. Milyonlarca kişi, uygulamanın gelişkin yazma becerilerinden övgüyle söz ediyor.

Uygulama haber yazımı, şarkı sözleri, makaleler ve hatta şiirler yazma kapasitesine sahip.

Öte yandan sohbet botu, bu hale gelmek için uzun bir eğitimden geçti. Botun arkasındaki dil modeli GPT-3, önceki yıllarda yapılan denemelerde cinsiyetçi, şiddet içerikli ve ırkçı metinler üretebiliyordu. 

Bunun nedeni de dil modelinin internetteki milyonlarca yazılı içerikle eğitilmiş olmasıydı.

Bu nedenle OpenAI, ChatGPT'yi piyasaya sürmeden önce veri kümesindeki tüm toksik içerikleri hızla filtreleyecek bir yönteme ihtiyaç duydu.

Şirket bu amaçla, gelişmekte olan ülkelere "etik" ve "saygın dijital çalışma alanı" sağladığını iddia eden ABD merkezli veri filtreleme şirketi Sama'yla ortaklık kurdu.

Sama da bu iş için Kenya'daki veri filtreleme işçilerini işe aldı ve bu çalışma sohbet botunun herkese açılabilecek kadar güvenli hale getirilmesinde önemli rol oynadı.

Öte yandan işçiler, zorlu çalışma koşulları ve düşük ücretlerle karşı karşıya kaldı.

Çalışanların kıdeme ve performansa bağlı olarak, saatte 1,32 ila 2 dolar arasında ücret aldığı aktarıldı.

TIME'a konuşan bir Kenyalı çalışan, "Küçük bir çocuğun yanında bir köpekle cinsel ilişkiye giren bir adamın ayrıntılı tasvirini okudum ve tekrarlayan kabuslar gördüm" dedi.

"Bu bir işkenceydi" diyen çalışan, sözlerini şöyle sürdürdü:

Bütün hafta boyunca bunun gibi bir dizi ifade okuyorsunuz. Cuma gününe geldiğinizde de o tasvirler aklınıza geliyor ve rahatsız olmaya devam ediyorsunuz.

Bu olayın ortaya çıkmasından çok kısa bir süre sonra Sama CEO'su Wendy Gonzalez, şirketin üst düzey yöneticilerine mesaj gönderdi ve "OpenAI çalışmasını sonlandırdıklarını" söyledi.

Sama, bir hafta önce Meta için çalışmayı bırakacağını da duyurmuştu.

Independent Türkçe, TIME, VICE, Gizmodo

Derleyen: Çağla Üren