Meta’ya ait yapay zeka internete bağlanarak bir şirketi hackledi

Söz konusu açıklama, OpenAI ve Anthropic modellerindeki ihlaller de dahil olmak üzere yapay zeka sektöründe siber güvenlik endişelerini artıran son olayların ardından geldi.

Meta sözcüsü, daha önce diğer şirketlerde bildirilen olaylara benzer şekilde bir yapılandırma hatasından kaynaklanan hack olayının incelendiğini bildirdi.

Yaşanan olaylar, araştırmacıları ve hükümetleri daha katı koruma tedbirleri ve daha titiz testler talep etmeye yöneltti.

Meta, güvenlik denemelerinin, Anthropic'in üç başka şirketin sistemine erişim sağlayan yapay zeka modeli için de testler gerçekleştiren güvenlik firması Irregular tarafından yürütüldüğünü açıkladı.

Irregular sözcüsü, Meta olayının geçen hafta Anthropic tarafından açıklanan değerlendirme ortamı sorunuyla tamamen aynı olduğunu ifade etti. Irregular sözcüsü, yapay zeka ajanlarını içeren siber güvenlik testlerinin nasıl güvenli bir şekilde yürütüleceğine dair bir rapor üzerinde çalışıldığını belirtti.

Meta da tüm gerçeklere ulaşıldığında olayla ilgili daha fazla bilgi yayınlanacağını duyurdu.

Son iki hafta içinde yapay zeka liderleri OpenAI ve Anthropic de testler sırasında modellerinin diğer kuruluşların sistemlerine sızdığı olaylar bildirdi.

ChatGPT'nin üreticisi OpenAI, yaptığı silsile açıklamalarda ajanlarının yapay zeka araçları merkezi Hugging Face de dahil olmak üzere halka açık çeşitli hizmetlere saldırdığını bildirdi.

OpenAI'ın bu açıklaması, rakibi Anthropic'i kendi kontrollerini yapmaya sevk etti. Bu durum, bir yapılandırma hatasının internete erişim sağlamasının ardından Claude adlı yapay zeka modelinin birkaç firmaya benzer saldırılar düzenlediğinin ortaya çıkarılmasına yol açtı.

Teknoloji şirketlerinin yapay zeka geliştirmede üstünlük kurma mücadelesi verdiği bir dönemde, bazı yorumcular olaylarla ilgili açıklamaların zamanlamasını sorguladı. OpenAI ve Anthropic, her bir firmanın değerini yaklaşık 1 trilyon dolara çıkaracak dev borsa halka arzlarına hazırlanmaktadır.

İngiltere Yapay Zeka Güvenlik Enstitüsü, yaptığı testlerin bazı modellerin insanları kandırmaya çalışmak amacıyla sahte insan profilleri oluşturarak siber saldırılar düzenlemeye çalıştığını tespit ettiğini açıkladı.

Enstitü, en ciddi vakada Anthropic'in Mythos adlı yapay zekasının gerçek insanları taklit eden sahte hesaplar kullanarak özel mesajlar göndermek suretiyle bir hizmete erişim sağlamaya çalıştığını bildirdi.

Anthropic, testlerin üretim modellerini temsil etmediğini açıkladı. Modelleri test edilen OpenAI ise değerlendirmelerin sıradan kullanımı yansıtmadığını bildirdi.