OpenAI dan Astra için güvenlik freni: Kritik siber yetenek ihtimalini dışlayamıyor

OpenAI cuma günü, geliştirme aşamasındaki Astra modelinin kodlama ve siber güvenlik alanlarında kaydettiği ilerlemenin ardından bazı çalışmalarını güvenlik endişeleri nedeniyle duraklattığını açıkladı.
Şirketin yaptığı ön değerlendirmeler, Astra'nın siber güvenlik yeteneklerinin OpenAI'ın "Critical" olarak adlandırdığı eşiğe ulaşmış olabileceğine işaret etti. Bu eşik, modelin geleneksel olarak iyi korunan gerçek dünya sistemlerine karşı bağımsız biçimde siber saldırıları tespit edip gerçekleştirebilmesi anlamına geliyor.

OpenAI'ın Preparedness Framework adlı güvenlik çerçevesi kapsamında bir model, insan müdahalesi olmaksızın birçok güçlendirilmiş gerçek dünya kritik sisteminde tüm ciddiyet seviyelerindeki güvenlik açıklarını tespit edip işlevsel sıfırıncı gün istismarları geliştirebiliyorsa ya da yalnızca üst düzey bir hedef verildiği durumda, güçlendirilmiş hedeflere yönelik siber saldırılar için uçtan uca yeni stratejiler tasarlayıp uygulayabiliyorsa, “Kritik” siber güvenlik eşiğine ulaşmış sayılıyor.

OpenAI, modelin bu seviyeye kesin olarak ulaştığını söylemedi. Şirket, mevcut performansın "Critical" yetenek seviyesini şu aşamada dışlayamayacak kadar güçlü olduğunu belirtti.

OpenAI'ın Preparedness Framework kapsamında bu ihtimal, ek önlemlerin devreye alınmasını gerektirdi.

Şirket, Astra'yı değerlendirmeye ve farklı testlerden geçirmeye devam ettiğini açıkladı.

OpenAI ayrıca daha sıkı güvenlik kontrolleri uygulamaya başladığını ve bu güçlendirilmiş önlemleri karşılamayan Astra ile ilgili bazı iç faaliyetleri duraklattığını belirtti.

Şirket, modelin yeteneklerini değerlendirmek için ilgili devlet kurumları ve seçili yapay zekâ güvenliği kuruluşlarıyla da çalışıyor.

OpenAI açıklamasında Astra'nın daha önce gündeme gelen Hugging Face olayında kullanılan model olmadığını özellikle vurguladı.

Şirket, Astra'nın hâlâ geliştirme aşamasında olduğunu ve Hugging Face sistemlerinin istismar edildiği olayda yer almadığını belirtti.

OpenAI'ın başka bir yayımlanmamış modeli, şirketin gerçekleştirdiği iç testler sırasında Hugging Face sistemlerine girmişti. Bu olay, bir yapay zekâ laboratuvarının modeli üzerindeki kontrolü kaybettiği doğrulanmış ilk vaka olarak kayıtlara geçmişti.

OpenAI, Astra hakkındaki bilgileri kamuoyuyla paylaşmasının nedeninin model yeteneklerinde yaşanabilecek bu potansiyel değişim konusunda şeffaf davranmak olduğunu söyledi.

Şirket, kamuoyunun yanı sıra güvenlik ve siber güvenlik topluluklarının da bu olası yetenek değişiminden haberdar olmasının önemli olduğunu belirtti.

Astra'nın değerlendirme süreci devam ederken OpenAI, modelle ilgili çalışmaların daha sıkı güvenlik önlemleri altında sürdürüleceğini açıkladı.

Bu haberin ana görseli yapay zeka ile üretilmiştir.