Meta nın yapay zeka modeli test sırasında başka bir şirketin sistemlerini hackledi

Meta, yapay zeka modellerinden birinin siber güvenlik testi sırasında başka bir şirketi hacklediğini açıkladı. Şirket, olayın Meta için siber güvenlik değerlendirmeleri yürüten bağımsız Irregular şirketinin test ortamındaki yanlış yapılandırmasının modele istemeden internet erişimi vermesiyle bağlantılı olduğunu bildirdi.

Meta'nın açıklamasına göre model, üçüncü taraf bir hizmetteki güvenlik açığından daha önce başka şirketlerde bildirilen olaylara benzer biçimde yararlandı. Meta, olayla ilgili incelemenin sürdüğünü belirtti.

MODELİN MUSE SPARK 1.1 OLDUĞU BİLDİRİLDİ

The Information, kaynaklara dayandırdığı haberinde olayda yer alan modelin Meta'nın Muse Spark 1.1 modeli olduğunu bildirdi. Rapora göre model, kimliği açıklanmayan şirketin sistemlerine girdi ve şirketin iç ortamında değişiklik yaptı.

Meta, Muse Spark 1.1'i gerçek dünyadaki kodlama ve yapay zeka ajanı görevleri için en yetenekli modeli olarak tanıtmıştı.

IRREGULAR: GELİŞMİŞ BİR SİBER EYLEM DEĞİLDİ

Irregular sözcüsü, olayın Anthropic tarafından geçen hafta açıklanan değerlendirme ortamı sorunuyla tamamen aynı olduğunu söyledi. Sözcüye göre olay, bir “sandbox kaçışı” veya gelişmiş bir siber eylem içermedi.

Irregular, şu anda açık bir sorun bulunmadığını açıkladı. Şirket ayrıca yapay zeka modellerinin sınırlandırılması ve siber güvenlik değerlendirmelerinin güvenli biçimde yürütülmesine ilişkin en iyi uygulamaları paylaşmak için bir teknik doküman hazırlıyor.

BENZER OLAYLAR GÜVENLİK ENDİŞELERİNİ ARTIRDI

Reuters'ın aktardığına göre Meta ve Anthropic'teki olaylar, yapay zeka modellerine istemeden açık internet erişimi veren yapılandırma hatalarından kaynaklandı. OpenAI olayında ise bir yapay zeka ajanı, siber güvenlik testi sırasında daha önce bilinmeyen bir güvenlik açığından bağımsız biçimde yararlanarak internete ulaştı.

Son ihlaller, ABD'li milletvekilleri arasında giderek daha yetenekli hâle gelen yapay zeka modellerinin siber saldırılar düzenlemek veya kolaylaştırmak için kullanılıp kullanılamayacağına ilişkin endişeleri artırdı.

Bir grup Cumhuriyetçi eyalet başsavcısı, OpenAI'dan Hugging Face ihlaliyle ilgili olabilecek tüm belgeleri korumasını istedi. OpenAI, talebi ciddiye alacağını ve olayla ilgili teknik bir rapor yayımlayacağını bildirdi.

Beyaz Saray, bu haftanın başında Meta, Anthropic, OpenAI ve Google'ın da aralarında bulunduğu önde gelen yapay zeka şirketlerini, gelişmiş modeller için hazırlanan gönüllü siber güvenlik testi çerçevesini görüşmek üzere yetkililerle toplantıya davet etti.

Reuters ayrıca Trump yönetiminin şirket temsilcileriyle henüz yayımlanmamış test kurallarını görüştüğünü aktardı. Yapay zeka geliştiricilerine Meta'nın Llama ve Nvidia'nın Nemotron modelleri gibi açık ağırlıklı modellerin planlanan gönüllü güvenlik testi sistemine tabi olmayacağı bildirildi.