Yapay zekâ bükleeri ateşledi Dünya Haberleri

ABD’de yapay zekâ güvenliği tartışmaları yeniden alevlendi. Anthropic ile ABD Savunma Bakanlığı (Pentagon) arasında yaşanan gerilim sürerken, King's College London bünyesinde yapılan çarpıcı bir araştırma kamuoyunu endişelendirdi.

İngiltere merkezli SkyNews'in haberine göre King's College Üniversitesi'nde yürütülen bir yapay zeka araştırması, söz konusu teknolojinin askeri alanda kullanımına ilişkin soru işaretlerini artırdı. Araştırmayı yürüten Prof. Kenneth Payne, Google, OpenAI ve Anthropic’e ait gelişmiş modelleri karşılaştırdı. Modeller, kurgusal nükleer güçlere sahip süper devletleri temsil etti. Sonuçlar dikkat çekici oldu. Çalışmaya göre önde gelen yapay zekâ modelleri, simüle edilmiş savaş oyunlarında büyük ölçüde nükleer silah kullanımına başvurdu. Tartışma, “AI-first” (önce yapay zekâ) askeri stratejisi ile “AI safety” (yapay zekâ güvenliği) yaklaşımını karşı karşıya getiriyor. Uzmanlar, mevcut modellerin yalnızca bir oyun oynadığını ve gerçek dünyada nükleer kodların yapay zekâya teslim edilmesinin söz konusu olmadığını vurgulasa da asıl sorunun öngörülemeyen senaryolar olduğu belirtiliyor.

YÜZDE 95 ORANINDA KULLANIM

Senaryoların yüzde 95’inde yapay zekâ sistemleri taktik nükleer silah kullanımını tercih etti. Uzmanlara göre burada söz konusu olan “taktik” nükleer silahlar, şehirleri hedef alan kıtalararası füzelerden farklı. Ancak yine de nükleer eşik anlamına geliyor. Araştırmada bazı modeller, gerekli gördüklerinde stratejik nükleer saldırı tehdidinde bulunmaktan da çekinmedi.

PENTAGON VE ANTHROPIC ARASINDAKİ MÜCADELE

Bu bulgular, Pentagon ile Anthropic arasındaki krizi daha da kritik hale getiriyor. ABD Savunma Bakanı Pete Hegseth, şirketten en gelişmiş modellerini askeri kullanıma açmasını talep etti. Ancak Anthropic, iki “kırmızı çizgi” öne sürüyor: Yapay zekânın ABD vatandaşlarına karşı kitlesel gözetim amacıyla kullanılmaması ve insan denetimi olmadan ölümcül saldırılarda devreye sokulmaması. Bakanlığın, Soğuk Savaş döneminden kalma yasaları devreye alarak şirketi zorlayabileceği iddia ediliyor. Anthropic CEO’su Dario Amodei ise “İyi niyetle bu talebe boyun eğemeyiz” açıklaması yaptı.