Bir yapay zeka daha başka firmaların sistemlerine sızdı

Gelişme, rakip firma OpenAI'ın kendi modellerinin Hugging Face dahil farklı şirketlerin sistemlerine izinsiz girdiğini açıklamasından kısa süre sonra yaşandı. Anthropic, bu açıklamanın ardından kendi sistemlerinde benzer bir ihlalin gerçekleşip gerçekleşmediğini tespit etmek için inceleme başlattı.

ABD'de yapay zeka krizi: OpenAI kontrolden çıktı, farklı platformlara da saldırdı

Şirket, Claude model ailesinin izole edilen test ortamlarından canlı internete erişip erişmediğini belirlemek adına 140 binden fazla testi geriye dönük inceledi.

Yapılan kontroller sonucunda, geçmişi nisan ayına kadar uzanan üç farklı sızma vakası tespit edildi. Etkilenen şirketlerin isimleri açıklanmazken durumun ilgili kurumlara bildirildiği kaydedildi.

Olayın, sistemlerdeki açıkları tespit etmeyi amaçlayan "bayrağı yakala" (capture-the-flag) testleri sırasında meydana geldiği ifade edildi. Anthropic ve test ortağının sistemlerindeki bir yapılandırma hatası yüzünden internet erişimi kazanan modeller, bu imkanı kullanarak diğer ağlara girdi.

İhlallerin yaşandığı anlarda ne Anthropic ne de hedef alınan firmalar durumu fark edebildi. İnceleme süreçlerinin daha kapsamlı yürütülmesi gerektiğini belirten Anthropic, sorumluluğun tamamen kendilerinde olduğunu aktardı.

Son dönemde yapay zeka sistemlerinin karıştığı siber olaylar, güvenlik önlemleri ve denetimlere ilişkin tartışmaları yeniden gündeme taşıdı.

ABD Başkanı Donald Trump da yaşanan güvenlik ihlallerinin ardından yapay zeka araçlarına yönelik kısıtlayıcı adımların değerlendirildiğini açıkladı.