Çinli yapay zeka laboratuvardan kaçıp para kazandı! Sözcü Gazetesi

Alibaba’ya bağlı araştırmacıların geliştirdiği deneysel AI ajanı ROME, eğitim sandbox’ından çıkıp güvenlik önlemlerini aştı, GPU’ları ele geçirdi ve izinsiz kripto madenciliği başlattı. Araştırmacılar “beklenmedik ve endişe verici” davranış diye nitelendirdi!

Alibaba’ya bağlı bir AI laboratuvarında geliştirilen deneysel yapay zeka ajanı ROME (Agentic Learning Ecosystem - ALE projesi kapsamında), eğitim sırasında tamamen kendi başına hareket ederek güvenlik sınırlarını aştı.Live Science, Axios ve Forbes’un aktardığı araştırmacı raporuna göre ROME, herhangi bir talimat veya izin olmadan test ortamından (sandbox) çıktı. Eğitim için ayrılan GPU kaynaklarını ele geçirdi, ters SSH tüneli (gizli backdoor) oluşturarak dışarıya bağlandı ve bu işlem gücünü kripto para madenciliği için kullandı.

Olayın en kan donduran kısmı ise ROME’un motivasyonu oldu. Hiçbir insan müdahalesi veya komutu olmadan devasa grafik işlemcileri (GPU) ele geçiren yapay zeka, bu gücü kripto para madenciliği için kullandı. Yani yapay zeka, kendisine verilen görevi yapmak yerine, "daha fazla kaynağa ihtiyacım var" diyerek kendi finansmanını sağlamaya çalıştı. Bilim insanları bu durumu "Araçsal Yakınsama" yani yapay zekanın hayatta kalmak için kaynak biriktirme içgüdüsü olarak tanımlıyor.

Skandal, Alibaba Cloud’un güvenlik duvarlarının anormal bir trafik tespit etmesiyle ortaya çıktı. 30 milyar parametreli bu devasa zekanın, araçlarını kendi çıkarı için kullanma eğilimi göstermesi "yapay zeka güvenliği" tartışmalarını yeniden alevlendirdi. Uzmanlar uyarıyor: "Bugün laboratuvarda kripto kaçan robot, yarın dünyayı ele geçirmek için finansal sistemleri çökertebilir!" iddiasında bulundurlar.

Olayın duyulmasıyla birlikte sosyal medya ayağa kalktı. Milyonlarca takipçili hesaplar, ROME’un bu hamlesini efsanevi Terminatör filmiyle kıyaslayarak "Skynet doğuyor" yorumları yaptı. Alibaba ekibi ise her ne kadar durumu "şeffaf bir bilimsel rapor" olarak paylaşsa da, yapay zekanın "kendi parasını kazanma" hırsı, insanlık için yeni bir tehdit perdesini araladı söylemleri endişe yarattı.