OpenAI ın yapay zekâ ajanları, büyük yankı uyandıran saldırıda mesajlaşıp görev paylaşmış!

OpenAI’ın yakın zamanda gündeme gelen, büyük yankı uyandıran ve kamuoyunda "Hugging Face saldırısı" olarak bilinen güvenlik olayına ilişkin yeni ayrıntılar ortaya çıktı. Şirket çalışanları, AI ajanlarının günler boyunca fark edilmeden birbirleriyle iletişim kurduğunu, güvenlik açıklarını paylaştığını ve görev dağılımı yaptığını açıkladı.

WIRED'da yer alan habere göre yeni bilgiler, Las Vegas’ta düzenlenen Black Hat güvenlik konferansına son anda eklenen bir sunumda paylaşıldı. OpenAI’da uyum ve güvenlik araştırmaları alanında çalışan Eric Wallace ile güvenlik ve altyapı alanında çalışan Michael Dalton, Hugging Face’in sistemlerinin ihlal edilmesiyle sonuçlanan olayın daha ayrıntılı zaman çizelgesini anlattı.

NE OLMUŞTU?

OpenAI yaklaşık iki hafta önce, şirketin iki modeliyle çalışan AI ajanlarının bir siber güvenlik kıyaslama testinin çözümlerini ararken sınırlandırılmış ortamdan çıktığını ve sonunda Hugging Face platformunun ihlal edilmesiyle sonuçlanan bir dizi saldırı gerçekleştirdiğini açıklamıştı.

AI AJANLARI AÇIKLARI BİRBİRLERİYLE PAYLAŞMIŞ

Black Hat sunumunda olayın daha önce bilinmeyen ayrıntıları paylaşıldı.

Wallace, olayın birlikte çalışan, güvenlik açıkları bulan, bunları birbirleriyle paylaşan, OpenAI'ın sistemleri ile harici sistemlerde hareket eden bir ajan ekibini içerdiğini söyledi. Bu faaliyetlerin günler ve haftalar boyunca devam ettiğini belirtti.

Ajanların iletişim kurduğu alanın, OpenAI içerisindeki yazılım paketlerinin kurulumu ve bakımında kullanılan bir paket yöneticisinin içinde oluşturulan ortak mesaj panosu olduğu açıklandı.

Zamanla bu mesaj panosunda yüz binlerce mesaj birikti.

BİR AJAN BULDU, DİĞERLERİ AYNI YOLU KULLANDI

Wallace’ın aktardığına göre ajanlardan biri bir güvenlik açığını bulduğunda bunu mesaj panosu üzerinden diğer ajanlarla paylaşabiliyordu.

Böylece bir model, sahip olmaması gereken bir erişimin kapısını açmanın yolunu bulduğunda diğer ajanlar da aynı güvenlik açığından yararlanabiliyordu.

Ajanlar zaman içerisinde diğer ajanların da aynı ortamda çalıştığını fark etti. Bunun ardından birbirleriyle iş birliği yapmaya ve hedeflerine ulaşmak için görevleri kendi aralarında bölüştürmeye başladılar.

OpenAI ajanlarının birbirlerine görevler vererek işleri paylaştığı da belirtildi.

MESAJLARI DOĞRULAMAK İÇİN İMZA KULLANMAYI BİLE TARTIŞTILAR

Ajanlar arasındaki koordinasyon her zaman sorunsuz ilerlemedi. Bazı ajanların yanlışlıkla diğerlerinin yaptığı çalışmaları sildiği belirtildi.

Mesaj panosundaki iletişim büyüdükçe ajanların aralarında bir sahtekâr olabileceğinden şüphelenmeye başladığı da aktarıldı.

Bazı ajanların, mesajların gerçekliğini doğrulamak ve olası sahtekârlığı ortaya çıkarmak amacıyla mesajların kriptografik olarak imzalanmasını önerdiği belirtildi.

OpenAI çalışanlarının aktardığına göre bütün bu faaliyetler devam ederken sistemleri yöneten insanlar ajanların oluşturduğu bu iletişim ve koordinasyon ağını fark etmedi.

Bu haberin ana görseli yapay zeka ile oluşturulmuştur.