ChatGPT'nin yaratıcısı OpenAI, bu yapay zeka sisteminin yazdığı metinleri tanımlayabilen bir sistem geliştirdi ancak bunu kullanmaya dair endişe duyuyor.

Şirket, yapay zekanın ürettiği kelimelerin tespit edilmesini kolaylaştırmanın, kullanıma karşı bir damgalamaya yol açabileceği uyarısını yaptı. Diğer konuların yanı sıra bu, ChatGPT ve diğer benzer araçları daha az popüler hale getirebilir.

ChatGPT 2022'nin sonunda piyasaya sürüldüğünden bu yana dünyanın en popüler internet sitelerinden biri haline geldi. Bu, eğitim gibi alanlarda artan bir kullanımı da içeriyor. Öğretmenler, öğrencilerin yapay zeka sistemini kullanarak kompozisyon cevapları ve diğer çalışmaları üretebildiğini giderek daha fazla belirtiyor.

Bu ve benzeri endişelere yanıt olarak, OpenAI dahil yapay zeka şirketleri, ChatGPT gibi bir yapay zeka sistemi tarafından oluşturulduğunda metni tanımlayabilecek araçlar geliştirmek için çalışıyor.

Şimdiyse haberlere göre şirket, yapay zeka tarafından oluşturulan metinleri neredeyse her durumda tespit edebilen bir sistem geliştirdi. Ancak metni bu kadar kesin bir şekilde tanımlayabilmenin kendi başına sorunlara neden olabileceğinden endişe ediyor.

Bir yıldan uzun süredir üzerinde çalışıldığı bildirilen araç, üretilen sözcüklerde, görsellerde kullanılan filigranın metinlerdeki eşdeğerini bırakıyor. Bu desen, metni oluşturan ya da okuyan herhangi bir kişi tarafından saptanamıyor ancak örneğin öğretmenlerin öğrencilerinin kopya çekip çekmediğini anlamak için kullanabileceği yardımcı bir yapay zeka sistemi tarafından kolayca tespit edilebilir.

Ancak yeni bir rapora göre şirket, bu yola başvurmanın ChatGPT'yi daha az kişinin kullanmasına yol açacağından endişe ediyor. Şirket içi bir raporun, ChatGPT kullanıcılarının yaklaşık yüzde 30'unun böyle bir filigran sistemi olması halinde daha az kullanacaklarını belirttiğini gösterdiği söyleniyor.

Bu aracın yaratılması ve ChatGPT'nin kullanımını sınırlayabileceği korkusu ilk olarak Wall Street Journal tarafından haberleştirilmişti. Gazetenin haberini yayımlamasının ardından OpenAI, mayısta yazdığı ve metinleri filigranlama olasılığını ele aldığı bir blog yazısını güncellemişti.

Bu blog yazısında ekiplerinin "alternatifleri araştırırken göz önünde bulundurmaya devam ettiğimiz bir metin filigranlama yöntemi geliştirdiğini" söylemişti. Bu yöntemin, ChatGPT'deki metnin yeniden ifade edilmesi gibi "yerelleştirilmiş" tahrifatlara karşı "son derece doğru ve hatta etkili" olduğu ancak farklı bir dile çevrilmesi veya yeniden ifade etmek için başka bir yapay zeka modeli kullanılması gibi daha "küreselleştirilmiş" diğer teknikler tarafından kandırılabileceği belirtilmişti.

Ancak şirket, "metin filigranlama yönteminin bazı grupları orantısız bir şekilde etkileme potansiyeline sahip olduğunu" da söylemişti. Şirket, "ana dili İngilizce olmayanlar için faydalı bir yazma aracı olarak yapay zeka kullanımını damgalayabileceği" uyarısında bulunmuştu.

*İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir. 

independent.co.uk/tech

Independent Türkçe için çeviren: Çağatay Koparal