Savaşları bir anda tersine çevirecek hata tespit edildi Sözcü Gazetesi

Çinli J-36 mühendisleri, yapay zekanın uydurma radar, silah ve savaş verileri üretebileceği konusunda uyardı. Yanlış bilgiler, uçak tasarımına ve askeri operasyonlara etki edebilir.

Uyarı, J-20 savaş uçağının arkasındaki kuruluş olan ve yeni nesil J-36 programında da görev alan AVIC Chengdu Aircraft Research and Design Institute mühendislerinden geldi. Konuya ilişkin değerlendirmeler, Çin’in devlete ait savunma şirketi Norinco tarafından işletilen Information Studies: Theory & Application dergisinde 20 Haziran’da yayımlanan bir makalede yer aldı.

Savaş uçağı geliştirilirken düşmanın radar kapsama alanı ve çalışma frekansları, füze angajman bölgeleri, elektronik harp kabiliyetleri, erken ihbar uçaklarının konumları ve kara konuşlu hava savunmalarının analiz edilmesi gerekiyor. Bu veriler uçağın gizlilik özellikleri, sensörleri, manevra kabiliyeti ve muharebe menzili gibi temel tasarım kararlarını şekillendiriyor.

Chengdu uçak tasarım kuruluşuyla bağlantılı mühendis Zhang Xianzhe, LLM'lerin bu süreçte son derece inandırıcı görünen ancak gerçekte var olmayan bilgiler üretebileceğini belirtti. Zira model, bir savaş uçağının boyutlarını, taşıma kapasitesini, silah kabiliyetlerini, azami hızını veya muharebe yarıçapını uydurabileceği gibi radar tarama mesafeleri ve frekans bantları hakkında da yanlış veriler oluşturabiliyor.

Bu tür hatalar yapay zeka tarafından son derece gerçekçi bir şekilde işlendiği için fark edilmeleri zor olabiliyor. Yapay zeka çıktısı teknik açıdan tutarlı göründüğünde analistler veya mühendisler, yanlış bilgiyi gerçek istihbarat verisi olarak değerlendirebiliyor.

Risk, yalnızca yanlış askeri verilerle sınırlı kalmıyor. Zhang'a göre yapay zeka, uygun dayanıklılığa sahip olmayan malzemeler önerebilir, aerodinamik açıdan mümkün olmayan manevralar tasarlayabilir veya uçağın operasyonel menzilini aşan görev planları hazırlayabilir.

Askeri istihbaratta ise gerçekte bulunmayan üsler, birlikler ve birlik hareketleri oluşturulması mümkün. Bu çıktılar simülasyonlara aktarılırsa karşı tarafın askeri kapasitesine ilişkin tamamen hatalı değerlendirmeler ortaya çıkabilir.

İnsan analistlerin son kararı vermesi riski azaltabiliyor ancak yapay zekanın ürettiği bilgi ve önerilerin hacmi arttıkça her bir çıktının ayrıntılı biçimde doğrulanması giderek zorlaşıyor. Zhang, yapay zekanın halüsinasyon olarak adlandırılan uydurma çıktılar üretme riskini azaltmak için çeşitli öneriler de veriyor.

Savunma kuruluşlarının modelleri güvenilir askeri verilerle sınırlandırması ve bilgilerin doğrulanabileceği aranabilir bilgi tabanları oluşturması bunların başında geliyor. Daha açık ve kesin komutların kullanılması da modelin belirsiz yorumlar üretme ihtimalini azaltabilir.

Zhang ayrıca yapay zekanın ulaştığı sonuçların, birbirlerinin çıktılarındaki hataları sorgulayan farklı yapay zeka sistemleriyle çapraz kontrol edilmesini öneriyor.