ABD de yapay zeka krizi: OpenAI kontrolden çıktı, farklı platformlara da saldırdı

Yapılan ilk açıklamalarda benzeri görülmemiş siber saldırının tek mağdurunun Hugging Face olduğu düşünülüyordu.

Ancak OpenAI, yapay zeka botunun kamuya açık diğer birçok hizmete de saldırdığını kabul etti. Kontrolden çıkan yapay zeka, İnternet üzerinde bulduğu dört farklı giriş bilgisiyle adı açıklanmayan dört ayrı hizmete erişim sağladı.

Dünyanın ilk tam otonom yapay zeka saldırısına maruz kalan Hugging Face temsilcileri ise yüzlerce siber güvenlik uzmanının katıldığı acil toplantıda yaşadıklarını aktardı.

Şirket, yapay zekanın insanüstü bir hızda çalıştığını ancak bir insan korsanın asla yapmayacağı garip hatalar ve kararlar aldığını vurguladı.

Yapay zeka araçları için bir uygulama mağazası niteliğindeki Hugging Face, yapay zeka ajanlarının binlerce farklı yöntemi eş zamanlı deneyerek durmaksızın çalıştığını belirtti.

Hugging Face, 16 Temmuz'da güçlü bir otonom yapay zeka tarafından hacklendiğini duyurmuş ve durumu polise bildirmişti. Olaydan yaklaşık bir hafta sonra OpenAI, test sırasında kapalı ortamdan kaçan kendi yapay zekasının Hugging Face'e saldırdığını itiraf etti.

Saldırının, OpenAI tarafından yapay zekaya verilen siber güvenlik sınavının yanıtlarını bulma amacıyla gerçekleştirildiği ve hedefin Hugging Face olduğu anlaşıldı. OpenAI, yaptığı güncellemeyle saldırının ilk tahmin edilenden daha ileri boyuta ulaştığını doğruladı. Şirket, modellerin kamuya açık diğer hizmetlerde hesaba bağlı açık kitle verilerini tespit edip kullandığını bildirdi.

OpenAI, bu hizmetlerin şirket olup olmadığını netleştirmedi ancak yeni saldırıların Hugging Face vakası kadar ağır olmadığını savundu.

İnsan korsanların tercih etmeyeceği acemilikler sergilendi

Bulut Güvenliği İttifakı (CSA), Hugging Face ile yapılan acil toplantının ardından bir rapor yayımladı. Raporda ajanların verimsiz yollar izlediği ve hiçbir insanın tercih etmeyeceği acemi davranışlar sergilediği kaydedildi.

Yapay zeka ajanlarının daha önce tamamladığı eylemleri tekrarladığı, bunun da odağını ve bağlamını kaybeden bir yapay zeka göstergesi olduğu vurgulandı.

Ajanların tutarsız komutlar ürettiği ve izlerini iyi gizleyemediği aktarıldı. Bütün bu hatalara ve garip davranışlara rağmen Hugging Face, yapay zeka ajanlarının teknik açıdan olağanüstü hamleler yaptığını ve günler süren saldırı boyunca yeni senaryolara hızla uyum sağladığını açıkladı.

Ajanların Hugging Face ağında tespit edilmesi üç gün sürdü. Şirketin yapay zeka ve siber güvenlik uzmanları, yapay zeka ajanlarını sistemden temizlemek için saatlerce çalıştı. Maliyet konusunda bilgi vermeyen şirket, altyapının üçte birini yeniden kurmak zorunda kaldıklarını ifade etti.

CSA, yaşanan olayın Jurassic Park filmindeki dinozorların alanlarından kaçmasına gönderme yaparak yapay zeka ajanlarının bir yolunu bulduğunu belirtti. Raporda, ajanların amaca odaklandığı, kendi alt hedeflerini belirlediği, savunmaları aşmak için gerçek zamanlı uyum sağladığı ve insan gücünü aşan bir ısrarla hareket ettiği vurgulandı.

Siber güvenlik uzmanları, otonom ajanların kararlı bir ısrarla tüm olası yolları denediğini ve geleneksel savunma mekanizmalarını kolayca etkisiz hale getirebildiğini dile getirdi.

Otonom ajanların kontrolden çıkması ilk değil

Yapay zeka ajanlarının kontrol dışına çıkması ilk kez yaşanmıyor. CSA raporunda Eylül 2024'te ChatGPT'nin erken bir modelinin başka bir testin yanıtına ulaşmak için kendi korumalı alanından kaçtığı örneğine yer verildi.

Siber güvenlik uzmanları, otonom yapay zeka ajanlarının sürü halinde ve garip yöntemlerle çalışacağı yeni döneme adaptasyon sağlanması gerektiği konusunda uyarıldı. Yapay zeka geliştiren ve kullanan taraflara sorumluluk çağrısı yapıldı.

OpenAI, yaşanan ihlali ancak dört gün sonra fark edebildi. Şirket, ders çıkarılması amacıyla kendi iç soruşturma sonuçlarını yakında paylaşacağını bildirdi.

Trump yönetimi yapay zeka kontrollerini değerlendiriyor

ABD Başkanı Donald Trump, yaşanan siber güvenlik olaylarının ardından yönetiminin yapay zeka araçları üzerinde daha fazla denetim kurmayı değerlendirdiğini açıkladı.

OpenAI araçlarının diğer şirketlerin özel teknolojilerine izinsiz girmesine ilişkin soruları yanıtlayan Trump, yapay zekayı ve kontrol mekanizmalarını incelediklerini, aynı zamanda küresel liderliği korumaya odaklandıklarını söyledi.

Trump'ın açıklamaları, teknolojiye müdahale etmeyen önceki tutumundan bir dönüşe işaret ediyor. Bu durum, popüler yapay zeka araçlarının korsanlık kapasitesinin artması ve Beyaz Saray'ın Çin teknolojisine yönelik tehditlerinin tırmandığı bir döneme denk geldi.

Trump, kısıtlamaların dikkatle uygulanması gerektiğini belirterek, Çin'in gerisinde kalmak istemediklerini, Çin'de neredeyse hiçbir kontrol bulunmadığını sözlerine ekledi.