Ünlü yapay zeka firması Open AI'ın DALL-E2 adlı yapay zeka sistemi kendine özgü bir dil geliştirdi.
Yazılı ifadeleri son derece gerçekçi görsellere dönüştürebilen sistemin kullandığı bazı kelimelerin başka hiçbir dilde karşılığı olmadığı görüldü.
2015'te kurulan teknoloji devi, yazılı tanımları görsele dönüştürme amacıyla DALL-E isimli bir yapay zekâ sistemini geliştirmeye başlamıştı.
fazla oku
Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)
Firma önceki aylarda bu sistemin daha gelişkin versiyonu DALL-E2'yu kullanmaya başlamıştı.
Bu sistem, kendisiyle paylaşılan nitelikler ve tanımları baz alarak benzersiz görseller ve sanat eserleri oluşturabilme yeteneğiyle büyük ilgi toplamıştı.
Ancak kendi gizli dilini oluşturması bazı yapay zeka meraklılarını ürküttü.
Sistemin gizli dilini ABD'deki Texas Üniversitesi'nde bilgisayar bilimi alanında doktora öğrencisi Giannis Daras fark etti.
Daras, viral olan bir Twitter zincirinde yapay zeka sistemiyle ilgili incelemesini takipçileriyle paylaştı.
The discovery of the DALLE-2 language creates many interesting security and interpretability challenges.
— Giannis Daras (@giannis_daras) May 31, 2022
Currently, NLP systems filter text prompts that violate the policy rules. Gibberish prompts may be used to bypass these filters. (6/n)
Zincirde aktarılana göre, Daras sistemden "sebzeler hakkında konuşan çiftçiler" görüntüsünü oluşturmasını istedi.
Ortaya çıkan görüntüde gerçekten de iki çiftçinin bir şeyler hakkında konuştuğu görülüyordu. Çiftçilerden birinin elinde yeşil yapraklı sebzeler vardı.
Öte yandan görselin üst kısmında göze çarpan "vicootess" kelimesi Daras ve bir meslektaşının dikkatini çekti. Zira bu kelimenin hiçbir dilde karşılığı yoktu.
Daha sonra kelimeyi algoritmaya geri yükleyen Daras, bunun yapay zeka sisteminin kendi dilinde sebze anlamına geldiğini keşfetti. Zira sistem bu kelime karşılığında sebze görüntüleri oluşturuyordu.
Bunun ardından sıra ilk görseldeki çiftçilerin konuşma balonları içinde yazan kelimelere geldi: "Poploe vesrreaitars".
Daras bu kelimeleri sisteme yüklediğinde de birçok kuş görüntüsü elde ettiğini aktardı:
Görünüşe göre çiftçiler sebzeleriyle uğraşıyor ve kuşlardan bahsediyor!
Daras, bu tespitlerini meslektaşıyla kaleme aldığı, henüz hakem onayından geçmemiş bir makalede de anlattı.
Sistemin birincil işlevinin altında yatan veya onunla paralel çalışan bir "gizli sözcük dağarcığı" oluşturduğunu ifade eden bilim insanı, tweet zincirinde şöyle yazdı:
DALLE-2'nun gizli bir dili var. Bu keşif, güvenlik ve yorumlamayla ilgili birçok sorun yaratıyor.
Independent Türkçe, Futurism, New York Post
Derleyen: Çağla Üren
