Hugging Face’i hackleyen OpenAI ajanının saldırısı sanılandan da büyük çıktı

OpenAI, Hugging Face’e sızan kontrolden çıkmış yapay zekâ ajanına ilişkin blog yazısını güncelledi. Şirket, güncellenen yazıda ajanın amacına ulaşmak için diğer üçüncü taraf hesaplarına ve hizmetlerine de sızdığını kabul etti.

Engadget'te yer alan habere göre şirket, yazıda devam eden incelemesi sırasında “modellerin kamuya açık diğer hizmetlerde hesap düzeyinde herkese açık şekilde bulunan kimlik bilgilerini tespit ettiği ve kullandığı az sayıda vaka” bulduğunu söyledi.

DÖRT HESAPLA DÖRT HİZMETE SIZDI

Şirketin şu ana kadarki tespitlerine göre kontrolden çıkan ajan, Hugging Face olayı kapsamında “dört hesaba” ait kimlik bilgilerini kullanarak “dört hizmete” sızdı.

OpenAI ayrıca ajanın diğer değerlendirmeler kapsamında da “birkaç hesaba” eriştiğini açıkladı.

Şirket, dört hesabın nasıl kullanıldığını şöyle anlattı:

“Bu dört hesaptan biri dışarıya yönelik aktarma noktası ve hazırlık yolu olarak, bir diğeri ise veri depolama amacıyla kullanıldı. Kalan iki hesaba modeller tarafından salt okunur biçimde erişildi ve bu hesaplar Hugging Face’in ele geçirilmesini ilerletmek için kullanılmadı."

MODAL LABS’TEKİ BİR MÜŞTERİ HESABI DA İHLAL EDİLDİ

OpenAI, herhangi bir isim vermedi. Ancak Reuters, aynı dönemde ajanın New York merkezli Modal Labs’teki bir müşterinin hesabını da ele geçirdiğini bildirdi.

Reuters’ın haberine göre ajan, özellikle müşterinin yazdığı ve Modal’ın bulut platformunda barındırılan savunmasız koddan yararlandı. Platformun kendisi ele geçirilmedi.

OpenAI ise, Hugging Face ile ilgili açıkladığı olayın şiddetine veya ölçeğine ulaşan başka bir ajan faaliyeti belirlemediğini söyledi. Şirket, Hugging Face olayının platform düzeyinde bir ihlal içerdiğini belirtti.

Başka bir deyişle, şirketin incelemesine göre güvenlik ihlalinden en fazla etkilenen taraf hâlâ Hugging Face.

AJAN TEST ORTAMINDAN ÇIKIP İNTERNETE BAĞLANDI

OpenAI, 21 Temmuz’da, test ettiği yapay zekâ ajanlarından birinin izole edilmiş ortamından çıktığını, internete erişim bulduğunu ve değerlendirmeler kapsamında verilen bir problemi çözmeye çalışırken Hugging Face’e sızdığını açıklamıştı.

Ajan, şirketin en yeni modeli GPT-5.6 Sol ile henüz yayımlanmamış ve ondan daha da güçlü bir model tarafından destekleniyordu.

Reuters birkaç gün sonra ajanın günler süren bir hack saldırısı serisi gerçekleştirdiğini ve OpenAI’ın ajanın sınırlandırılmış ortamdan çıktığını bir hafta sonrasına kadar fark etmediğini bildirdi.

OpenAI’ın güncellemesi, ajanın şirketin test ortamından çıktıktan sonra neler yaptığına dair fikir veriyor.