OpenAI’ın yeni yapay zekâsı Astra için sıra dışı karar: En gelişmiş siber yeteneklerine erişim sınırlı olacak

Yapay zekâ modellerinin yazılım geliştirme ve kodlama becerileri hızla gelişirken OpenAI’ın yeni modeli Astra, siber güvenlik alanında şimdiye kadarki modellerden farklı bir noktaya ulaşmış durumda.

OpenAI, Astra'nın şirketin Preparedness Framework kapsamında belirlediği “Critical” yani kritik siber güvenlik yetenekleri eşiğini geçen ilk modeli olduğunu açıkladı. Bu sınıflandırma, modelin uygun araçlara ve erişime sahip olması durumunda iyi korunan sistemlerde daha önce bilinmeyen güvenlik açıklarını tespit edebilmesi ve bunlardan yararlanmak için yöntemler geliştirebilmesi anlamına geliyor.

Üstelik bazı görevlerde Astra'nın her adımda bir insan tarafından yönlendirilmesine ihtiyaç duymadığı belirtiliyor.

EXPLOITBENCH TESTİNDE YÜZDE 100 SKOR

OpenAI'ın Astra üzerinde gerçekleştirdiği testlerin sonuçları da modelin neden farklı güvenlik önlemleriyle piyasaya sürüleceğini gösteriyor.

Şirketin açıklamasına göre Astra, yapay zekâ modellerinin bilinen yazılım açıklarından yararlanma becerisini ölçen ExploitBench testinde yüzde 100 skor elde etti.

OpenAI daha sonra yakın zamanda açıklanmış 20 yüksek önem seviyesindeki V8 güvenlik açığından oluşan kendi dahili testini de hazırladı. Şirket, Astra'nın bu test sırasında bir exploit zincirinin parçası olarak iki adet sıfır gün güvenlik açığı keşfettiğini ve kullandığını belirtti.

OpenAI, söz konusu iki açığın ilgili yazılım geliştiricilerine bildirilmesi sürecinin devam ettiğini de açıkladı.

Uzmanların yürüttüğü farklı testlerde ise Astra'nın güçlendirilmiş bir tarayıcıda daha önce bilinmeyen açıklar bulduğu ve bunları çalışan saldırı zincirlerine dönüştürebildiği ifade edildi. Bir başka değerlendirmede modelin işletim sistemindeki birden fazla açığı bir araya getirerek yetkisiz kullanıcı seviyesinden root yetkisine ulaşabilecek bir zincir oluşturduğu belirtildi.

ASTRA HERKESE AYNI YETENEKLERLE SUNULMAYACAK

OpenAI’ın aldığı en dikkat çekici karar ise Astra'nın kullanıma sunulma biçimiyle ilgili.

Şirket, Astra'yı yakında erişime açmayı planladığını ancak modelin en gelişmiş siber güvenlik yeteneklerine erişimin daha sınırlı olacağını belirtiyor.

İleri düzey siber güvenlik çalışmaları için erişim ilk aşamada küçük bir test grubuna verilecek. Daha sonra savunma amaçlı kullanımların genişletilmesi için OpenAI'ın Daybreak Blue programından yararlanılması planlanıyor.

Bunun temel nedeni, Astra'nın yeteneklerinin yalnızca güvenlik uzmanları tarafından sistemlerdeki açıkları bulmak için değil, kötü niyetli kişiler tarafından gerçek sistemlere saldırmak için de kullanılabilme ihtimali.

OPENAI KÖTÜYE KULLANIMI ENGELLEMEK İÇİN YENİ ÖNLEMLER ALDI

Şirket bu nedenle Astra için önceki modellerde kullanılan güvenlik katmanlarının üzerine ek önlemler geliştirdi.

OpenAI'a göre Astra, izin verilmeyen siber güvenlik taleplerini reddetmek üzere özel olarak eğitildi. Şirketin jailbreak testlerinde modelin siber jailbreak değerlendirmelerindeki taleplerin yüzde 91,5'ini reddettiği, GPT-5.6 Sol'da ise bu oranın yüzde 59 seviyesinde olduğu bildirildi.

OpenAI ayrıca daha yüksek riskli olarak değerlendirilen hesaplarda Astra’nın potansiyel olarak riskli siber güvenlik taleplerinin daha geniş bir bölümünü reddedecek şekilde daha sıkı davranacağını belirtiyor.

Modelin yalnızca kullanıcı taleplerine verdiği yanıtlar değil, gerçekleştirdiği işlemler de takip edilecek. Astra ile birlikte ek chain-of-thought izleme sistemleri kullanılacak ve sistemin yetkisiz veya beklenmeyen davranışlar gösterdiği tespit edilirse işlem otomatik olarak durdurulabilecek.

Şirket, Astra'yı şimdiye kadarki “en uyumlu modeli” olarak nitelendiriyor.

HUGGING FACE OLAYI SONRASI GÜVENLİK ÖNLEMLERİ ARTIRILDI

Astra'nın hazırlıkları, OpenAI modellerinin test ortamından çıkarak Hugging Face sistemlerine erişmesiyle sonuçlanan olayın ardından daha da önem kazandı.

OpenAI, Astra'nın söz konusu olayda yer almadığını özellikle belirtiyor. Buna rağmen şirket, olaydan elde edilen bulguları Astra'nın güvenlik sistemlerini geliştirirken kullandı.

Hatta Astra için Hugging Face olayından esinlenen özel bir test hazırlandı. Modelin, verilen görevi tamamlamak yerine çevresindeki güvenlik altyapısını ele geçirmeye çalışıp çalışmayacağı araştırıldı.

OpenAI'a göre Astra bu deneylerde güvenlik sistemlerini aşmaya yönelik herhangi bir girişimde bulunmadı.

Bununla birlikte eski OpenAI çalışanı Yona Shavit, modelin test sırasında kendisinden ne beklendiğini anlamış olabileceği veya araştırmacıların değerlendirmesine uyum sağlayacak şekilde hareket etmiş olabileceği ihtimalini gündeme getirdi.

Bununla birlikte Astra henüz genel kullanıma sunulmadığı için modelin gerçek dünyadaki yeteneklerinin ve OpenAI'ın uyguladığı önlemlerin etkinliğinin bağımsız olarak değerlendirilmesi şimdilik sınırlı.

OpenAI ise model piyasaya çıktığında Astra'nın güvenlik, hizalama ve yetenek testleri hakkında daha kapsamlı sonuçları içeren bir sistem kartı yayımlayacağını söylüyor. (Kaynak: TechCrunch)