Yeni bir araştırmaya göre siyah ve beyaz satranç taşlarıyla ilgili internetteki tartışmalar ırkçılık ve diğer nefret söylemlerini saptamak için eğitilmiş yapay zeka algoritmalarının kafasını karıştırıyor.

Carnegie Mellon Üniversitesi'ndeki (CMU) bilgisayar bilimcileri, YouTube'daki popüler bir satranç kanalının geçen haziranda "zararlı ve tehlikeli" içerik nedeniyle engellenmesinin ardından yapay zekanın yaptığı hatayı araştırmaya başladı.

İnternetteki takma adı Agadmator olan Hırvat satranç oyuncusu Antonio Radic bir milyondan fazla abonesiyle dünyanın en popüler YouTube satranç kanalına sahip.

28 Haziran 2020'de Radic, Satranç Ustası Hikaru Nakamura'yla bir satranç gösterisi sunarken YouTube'da engellendi fakat Google'a ait video platformundan engellemeye dair belirli bir neden verilmedi.

Radic'in kanalı 24 saat sonra eski haline getirilince satranç şampiyonu, platformdan geçici olarak engellenmesinin sebebinin kullandığı "beyaza karşı siyah" ifadesi olduğunu düşündü. Halbuki Radic o sırada satrançtan bahsediyordu.

YouTube'un moderasyon sistemi hem insanlardan hem de yapay zeka algoritmalarından yararlanıyor, yani bağlamı doğru anlayacak şekilde eğitilmediği sürece herhangi bir yapay zeka sistemi yorumları yanlış anlayabilir.

CMU Dil Teknolojileri Enstitüsü'nden proje bilimcisi Ashiqur KhudaBukhsh "Eğer ırkçı ögeler içeren dili tespit etmek için yapay zekaya güvenirlerse bu tarz hatalar meydana gelebilir" dedi.

KhudaBukhsh, satranç odaklı 5 popüler YouTube kanalından toplanan 680 binden fazla yorumu taramak için son teknoloji bir konuşma sınıflandırıcı kullanarak bu teorisini test etti.

Yapay zeka tarafından nefret söylemi olarak sınıflandırılan bin yorumu manuel olarak inceledikten sonra "siyah", "beyaz", "saldırı" ve "tehdit" gibi hepsi de satranç jargonunda sıkça kullanılan sözcükler yüzünden bunların yüzde 82'sinin yanlış sınıflandırılmış olduğunu ortaya koydular.

Makale bu ay Yapay Zekanın Geliştirilmesi Derneği'nin yıllık konferansında sunuldu.

* İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir.

https://www.independent.co.uk/life-style

Independent Türkçe için çeviren: İrem Oral