Yapay zekanın, insanların belleğine sahte hatıralar yerleştirebileceği öne sürüldü.
Son yıllarda gittikçe yaygınlaşan yapay zeka araçlarının zaman zaman yanıltıcı bilgiler verdiği veya "halüsinasyon" ürettiği biliniyor.
Yakın zamanda yapılan bazı çalışmalarda insanların da halüsinasyon görmesine yol açabildikleri kaydedildi.
Massachusetts Teknoloji Enstitüsü (MIT) ve Kaliforniya Üniversitesi Irvine kampüsünden araştırmacılar, yapay zeka tarafından değiştirilen görsellerin, insanların hafızasını etkileyip etkilemediğini test etti.
Henüz hakem denetiminden geçmeyen ve ön baskı sunucusu arXiv'de geçen hafta yayımlanan çalışmada 200 katılımcıya birtakım resimler gösterildi.
fazla oku
Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)
Daha sonra 4 gruba ayrılan katılımcılara aynı resimler, resimlerin yapay zeka tarafından düzenlenmiş hali, yapay zekanın ürettiği videolar veya yapay zekanın düzenlediği resimleri içeren videolar sunuldu.
Ardından katılımcılardan asıl resimdeki bazı detayları anlatması istendi.
Araştırmacılar, yapay zeka tarafından düzenlenmiş görsellerin, katılımcıların sahte anılarını kayda değer derece artırdığını gözlemledi.
Ayrıca yapay zekanın düzenlediği resimleri içeren videoların sahte anı oluşturmakta en büyük etkiyi yarattığı kaydedildi. Bu gruptaki katılımcılarda sahte hatıra oluşma oranı, kontrol grubunun 2,05 katıydı.
Bu gruptaki katılımcıların, görüntüleri doğru hatırladığına inancı da diğerlerine kıyasla en yüksek seviyedeydi.
Aynı araştırma ekibi geçen ay, yapay zeka sohbet botlarının sahte anılar oluşturabileceğini bulmuştu.
Yine arXiv'de yayımlanan araştırmada, yapay zeka sohbet botlarının yanıltıcı soru sormasının bile insanların videosunu izledikleri bir olayı yanlış hatırlamasına yol açtığı gözlemlenmişti.
Bulguların başka çalışmalarla desteklenmeye ihtiyacı var. Ancak yine de bu iki çalışma, yapay zekanın yarattığı potansiyel tehditlerden birine dikkat çekiyor.
Sahte hatıralar oluşturulması örneğin mahkemede yanlış ifade verilmesine yol açabilir.
Araştırmacılar, yapay zeka etkileşimlerinin insan belleği üzerinde önemli bir etki yaratabileceğini ve bu tür teknolojik araçların hassas bağlamlarda dikkatli bir şekilde kullanılması gerektiğini savunuyor.
Independent Türkçe, AZoAi, Register, arXiv
Derleyen: Büşra Ağaç
