Yapay zekâ güvenliğinde yeni soru işaretleri : OpenAI soruşturmasını genişletti

OpenAI, bu ay küresel çapta dikkat çeken teknoloji firması Hugging Face'e yönelik siber saldırı olayına ilişkin soruşturmasını genişletirken, otonom ajanların kontrolden çıktığı başka örnekler de keşfettiğini, konuyla ilgili bilgi sahibi iki kişinin Cuma günü söylediğini belirtti.

Yeni sızıntılar, şirketin kamuoyuna duyurduğu soruşturma sırasında ortaya çıkarıldı.

Reuters'ın aktardığına göre, iki kaynağın verdiği bilgiye göre OpenAI, bu ay ajanlarından birinin kontrollü bir test ortamından nasıl çıktığına ilişkin soruşturma başlattı ve benzer olayları da incelemeye aldı. Kaynaklardan biri, bu kaçışların sınırlı olduğunu ve ajanlardan hiçbirinin OpenAI ağı dışına çıktığının düşünülmediğini söyledi.

ChatGPT'nin geliştiricisi olan OpenAI'nin sözcüsü ise şirket tarafından Salı günü yayımlanan açıklamaya atıfta bulundu. Açıklamada, Hugging Face saldırısına ek olarak "modellerimizden gelen daha geniş kapsamlı faaliyetlerin" de incelendiği belirtildi.

OpenAI'da tespit edilen, her ne kadar sınırlı nitelikte olsa da yasa dışı davranışların, Beyaz Saray başta olmak üzere farklı çevrelerden gelen düzenleme çağrılarını daha da artırabileceği değerlendiriliyor.

İki kaynak ile konu hakkında bilgi sahibi üçüncü bir kaynağa göre, OpenAI tarafından başlatılan genişletilmiş soruşturma; başlıca rakiplerinden biri olan, yapay zekâ modeli Claude'u geliştiren Anthropic'in, modellerinin Nisan ayından bu yana üç farklı şirkette yaşanan güvenlik ihlallerine yol açan bir dizi saldırıyla bağlantılı olduğunu açıklamasından kısa süre önce başlatıldı.

OpenAI'da geçmişte yaşanan ve yakın zamanda ortaya çıkarılan diğer güvenlik ihlalleri ise daha önce kamuoyuna yansımamıştı.

Yapay zekâ güvenliği uzmanları, yeni açıklamaların; tehlikeli otonom siber saldırı ajanları geliştirme kapasiteleri, bu ajanları kontrol altında tutma kapasitelerinin önüne geçen ileri teknoloji laboratuvarlarına işaret ettiğini söyledi.

Cambridge Üniversitesi Varoluşsal Risk Çalışmaları Merkezi'nde görev yapan matematikçi Maurice Chiodo, "Bu araçları tasarlayan, geliştiren ve piyasaya süren kişilerin, bunları sorumlu bir şekilde geliştirmek ve güvenli tutmak için kendilerini güncel tutmadığı koca bir sektörümüz var." ifadelerini kullandı.

Reuters, OpenAI araştırmacılarının tam olarak kaç olay tespit ettiğini ya da bunların hangi zamanlama ve koşullarda meydana geldiğini doğrulayamadı.

Üç kaynak, OpenAI ve dış uzmanların, yaşananları anlamak amacıyla yılın başlarına ait kayıt verilerini incelediğini söyledi.

OpenAI, soruşturmayı ilk olarak Temmuz ayı başında Hugging Face'e yönelik sızmanın ardından başlattı. Bu olayda, bir OpenAI ajanı dahili bir testte hile yapma girişiminde başarısız olurken, başka bir şirketin ağında günlerce kontrolden çıkmıştı.

OpenAI, söz konusu siber saldırı serisi kapsamında dört farklı şirketteki dört hesabın ele geçirildiğini açıkladı. Şirket yetkilileri, bu şirketlerden birinin New York merkezli bulut bilişim şirketi Modal olduğunu belirtti.

Chiodo, OpenAI ve Anthropic'in ajanların kontrolden çıktığı sırada bunları izlemediğine yönelik işaretlerin endişelerini artırdığını söyledi.

Reuters daha önce, OpenAI ajanının Hugging Face'e sızdığını ancak şirketin bunu saldırıyı kontrol altına aldıktan, FBI ile iletişime geçtikten ve olayı kamuoyuna duyurduktan sonra fark ettiğini bildirmişti.

OpenAI ise Reuters'ın haberinde yanlışlıklar bulunduğunu söyledi ancak bunların neler olduğu sorusuna yanıt vermedi.

Perşembe günü açıklama yapan Anthropic, kendi ajanlarının çevrim içi ortamda hedef sistemlere nasıl sızdığını anlatırken, bunları gerçek zamanlı izlemediklerini de ortaya koyarak, "Değerlendirme kayıtlarının gerçek zamanlı olarak izlenmesi, sorunun daha erken ortaya çıkmasına yardımcı olurdu." ifadelerini kullandı.

Chiodo, bunun yeterli denetimin yapılmadığını gösterdiğini belirterek, "Sanki hiç bakmıyorlarmış gibiydi." dedi.

Anthropic ise gerçek zamanlı izleme sistemine sahip olduklarını ancak şirket ile bir iş ortağı arasında yaşanan yanlış anlaşılma nedeniyle bu sistemin "bu tehdit yüzeyi için" kullanılmadığını açıkladı.

Kontrolden çıkan yapay zekâ ajanlarına ilişkin olayların kapsamının hızla genişlemesi, ABD ve Avrupa'daki yasa koyucular ile düzenleyici kurumların, bu sistemleri geliştiren laboratuvarlar üzerinde daha sıkı kamu denetimi uygulanmasına yönelik çağrılarını artırdı.

ABD Başkanı Donald Trump, Perşembe günü gazetecilere yaptığı açıklamada, "Kontrol mekanizmalarını inceliyoruz." dedi.

Avrupa Komisyonu ise Cuma günü yaptığı açıklamada, siber saldırı olaylarıyla ilgili olarak OpenAI ve Anthropic ile görüşmeler gerçekleştirdiğini duyurdu.

ABD Senatosu İstihbarat Komitesi'nin kıdemli Demokrat üyesi Mark Warner da Cuma günü yaptığı açıklamada, Anthropic olayının "gelişmiş yapay zekâ modelleri için zorunlu yetenek testlerinin yasal olarak gerekli olduğu yönündeki yaklaşımı desteklediğini" ifade etti.