AI nükleeri durdurabilir mi?

Başkan Donald Trump, tüm federal kurumlara, yapay zekâ geliştiricisi Amerikan şirketi Anthropic tarafından geliştirilen yapay zekâ teknolojisini kullanmayı durdurma talimatı verdi.

Anthropic ile Pentagon arasında Amerikan ordusunun ölümcül otonom silahlar için Claude adlı AI sistemini kullanma olasılığı konusunda farklı görüşler ortaya çıktı.

Claude, istihbarat analizleri ve savunma planlaması da dahil olmak üzere bazı ulusal güvenlik sistemlerinde kullanılıyor.

Çeşitli senaryoları analiz ediyor.

Trump, sosyal medyada yaptığı açıklamada federal kurumların derhal Anthropic araçlarına güvenmeyi bırakması gerektiğini belirtti ve şirketin artık hükümet ortağı olarak kabul edilmeyeceğini söyledi.

“Geçiş olmazsa cezai sonuçlar ile yüzleşirler” dedi.

Elbette “Gerçek dünyanın neyle ilgili olduğuna dair hiçbir fikri olmayan kişiler tarafından yönetilen radikal solcu bir yapay zekâ şirketi.” Diye d bekledi.

Kurumlara, alternatif teknolojilere geçiş yapmaları için altı aylık bir geçiş süresi verildi.

***

Savunma Bakanı Pete Hegseth, Anthropic’i “ulusal güvenlik için tedarik zinciri riski” olarak nitelendirdi.

Bu etiket, diğer askeri yüklenicilerin Anthropic ile iş yapmasını engelleyebilir.

Anlaşmazlığın merkezinde, AI güvenlik önlemleri ve etik sınırlar yer alıyor.

Uzmanlar, bu ihtilafın gelişmiş yapay zekâ dil ve kodlama sistemlerinin istihbarat ve savunma için ne kadar kritik araçlar haline geldiğini gösterdiğini belirtiyor.

Bu sistemler büyük veri analizleri yapabilir, karmaşık istihbaratı yorumlamaya yardımcı olabilir ve stratejik planlamada kullanılabilir.

Ancak yüksek riskli askeri operasyonlarda kullanımında hukuki ve etik sorular da doğuruyor.

Bazı savunma yetkilileri, askeri sistemlerde AI’e sınırsız erişim sağlanmasının kriz durumlarında ABD’nin daha hızlı tepki vermesine yardımcı olabileceğini savunuyor.

Geçen ay yapılan bir toplantıda Pentagon’un teknoloji şefi ölüm kalım niteliğinde bir nükleer senaryoyu tartışıyor.

Eğer United States’e bir kıtalararası balistik füze fırlatılırsa, ordu bu füzeyi düşürmeye yardımcı olmak için Anthropic’in Claude adlı yapay zekâ sistemini kullanabilir mi?

***

Karşı saldırı açısından teknolojik güç ve hızın kritik olabileceği türden bir durum ve karar verme süresi dakikalar hatta saniyelerle ölçülüyor.

Yetkiliye göre, Anthropic’in CEO’su Dario Amodei’nin yanıtı Pentagon’da rahatsızlık yarattı.

Yetkili, Amodei’nin cevabını şöyle özetledi: “Bizi arayabilirsiniz, birlikte çözeriz.”

Yani her seferinde sınırlamaları şirket kaldıracak...

Anthropic sözcüsü ise CEO Amodei’nin böyle bir yanıt verdiğini reddederek bu anlatımı yalanladı

Şirketin, Claude’un füze savunmasında kullanılmasına izin vermeyi kabul ettiğini söyledi.

Anthropic, Pentagon’un Claude’u her yasal askeri kullanım için kullanılabilir hale getirme talebine karşı çıkıyor.

Şirket, güvenlik sınırlarının Claude’un kontrolsüz otonom silahlar veya kitlesel gözetim amaçlı kullanılmasını önleyen mekanizmaların korunmasını istedi…

Anthropic’in CEO’su Dario Amodei, savunma bakanlığının baskısına rağmen bu güvenlik mekanizmalarını kaldırmanın şirket için etik olarak doğru olmayacağını söylüyor.

Güvenlik sınırlarının kaldırılmasının tehlikeli veya istenmeyen sonuçlara yol açabileceğinden endişe ediliyor.

***

Trump yönetiminin bu kararı ve Pentagon’un Anthropic’i “ulusal güvenlik riski” olarak nitelendirmesi, ABD hükümeti ile teknoloji sektörü arasındaki en yüksek profilli çatışmalardan biri olarak kayda geçti.

Amodei, "şirketin veya özel işletmelerin değil, Savunma Bakanlığı’nın askeri kararları aldığını anladığını" yazdı…

Ve teknolojisinin kullanımını “rastgele şekilde” sınırlamaya çalışmadığını veya belirli operasyonlarla ilgili bir itirazda bulunmadığını belirtti...

“Bununla birlikte, dar bir dizi durumda, yapay zekânın demokratik değerleri savunmak yerine zayıflatabileceğine inanıyoruz. Bazı kullanımlar, günümüz teknolojisinin güvenli ve güvenilir bir şekilde yapabileceğinin dışında,” dedi.

Amerikalıların kitlesel gözetimi ve insan müdahalesi olmadan hedef alabilen otonom silah sistemlerinin uygulanmasıyla ilgili iki durum söz konusu.

Departmanın teknolojiyi devre dışı bırakmayı seçmesi durumunda sorunsuz bir geçiş sağlamak için çalışacaklarını söyledi.

Ancak Anthropic’in bu kararlara mahkemede itiraz etmesi bekleniyor.