Yapay zeka ve tıpla ilgili yeni bir araştırma, bilim camiasında ürkütücü bir tartışmanın fitilini ateşledi.

İlaçlar üretimi ve keşfi için tasarlanan yapay zeka algoritmalarının, ölümcül biyokimyasal silahları icat etmek için de kolayca kullanılabileceği ortaya çıktı.

Araştırmada, yapay zekanın 40 bin ölümcül molekülü icat etmesi 6 saatten az sürdü.

ABD merkezli sağlık girişimi Collaboration Pharmaceuticals’tan bilim insanları, yapay zeka algoritmaları aracılığıyla yeni ilaçlar keşfetmek için çalışma yürütüyordu.

Bu algoritmalardan biri de Alzheimer tedavisinde kullanılan ve "asetilkolinesteraz inhibitörleri" diye bilinen bir ilaç sınıfının üretiminde kullanılan MegaSyn adlı bir makine öğrenme yazılımıydı.

Hakemli bilimsel dergi Nature Madicine’de yayımlanan araştırmada, bu algoritma, biyokimyasal silahlar üretecek şekilde yeniden düzenlendi.

MegaSyn aslında hastalar için en düşük toksisiteye sahip ilaç adayları oluşturmak üzere tasarlanmıştı. Ancak bu durum, girişimin kıdemli bilim insanlarından Fabio Urbina’yı düşündürüyordu.

Kimyasal silahlarla ilgili bir konferans daveti alan Urbina ve ekibi, makine öğreniminin tıp alanında nasıl kötüye kullanılabileceğine dair tartışmaya başladı.

Sonunda ekip, yazılımı sinir gazı gibi ölümcül bileşikler üretmeye yönlendirmek için modeli yeniden eğitti ve yeni moleküller oluşturması için kendi haline bıraktı.

Urbina, "Sabah geri geldim, 40 bin bileşik üretmişti" diye konuştu:

Nasıl göründüklerine baktık ve sonra bazı özelliklerini araştırmaya başladık. Hem epey etkileyici hem de korkutucuydu. Çünkü ilk 100 listemizde, daha önce keşfedilmiş bazı moleküller vardı. Bunlar kimyasal savaş ajanları diye bilinen VX benzeri maddelerdi.

VX, bilinen en zehirli sinir ajanlarından biri. Bu molekülden yaklaşık 10 miligram, bir insanı öldürmek için yeterli oluyor. VX, akciğer kaslarının kasılmış halde kalmasına neden olarak kişinin nefes almasını imkansız hale getiriyor. Diğer bir deyişle ciğerleri felç ediyor.

Urbina, "Modelin, birçoğu VX'e benzeyen ve ayrıca diğer kimyasal savaş ajanlarına benzeyen tüm bu molekülleri üretmeye başladığını gördük" ifadelerini kullandı:

Algoritma bu süreçte, VX gibi işlev gören moleküller üretmekle kalmadı, aynı zamanda buna yapısal olarak benzeyen ama daha da zehirli olduğu tahmin edilen bazı moleküller de oluşturdu.

Bunlardan sadece birkaçı daha zehirliydi. Ama bu da inanılmaz derecede endişe verici.

Independent Türkçe, The Verge, The Register

Derleyen: Çağla Üren