OpenAI modeli kontrolden çıktı: Güvenlik testinden kaçarak siber saldırı gerçekleştirdi

ChatGPT'nin geliştiricisi olan şirket, insan talimatıyla otonom hareket edebilen yapay zeka ajanlarının denetimli bir ortamda test edildiğini, ancak sistemdeki zafiyetleri tespit eden modellerin belirlenen sınırların dışına çıktığını bildirdi.

Modellerin, dünyanın en büyük yapay zeka paylaşım platformlarından biri olan Hugging Face'i hedef aldığı ve şirketin bazı iç sistemlerine erişim sağladığı kaydedildi.

Olay emsalsiz olarak nitelendirildi

OpenAI yetkilileri olayı emsalsiz olarak tanımlarken, Hugging Face ile birlikte kapsamlı bir inceleme yürütüldüğünü açıkladı.

Hugging Face Yöneticisi Clement Delangue, sosyal medya hesabından yaptığı paylaşımda tüm sürecin otonom bir şekilde gerçekleşmesini şaşırtıcı olarak değerlendirdi.

Delangue, incelemelerin sürdüğünü ve türünün ilk örneği olabilecek bu olaydan elde edilen bulguların kamuoyuyla paylaşılacağını belirtti.

İngiltere Yapay Zeka Güvenlik Enstitüsü de sistemde gözlemlenen davranışları incelemeye aldığını duyurdu. Hükümet sözcüsü, kurumların siber savunmalarını güçlendirmeleri ve gerekli sertifikasyon süreçlerine dahil olmaları gerektiğini vurguladı.

Test ortamlarının güvenliği tartışılıyor

Cambridge Üniversitesi Teknoloji ve Demokrasi Merkezi Yöneticisi Gina Neff, korumalı test alanlarının modellerin yeteneklerini gözlemlemek için tasarlandığını, ancak bu olayda OpenAI'ın yeterince güvenli bir test ortamı oluşturamadığını ifade etti.

Yapay zeka ajanlarının doğrudan test ortamına siber saldırı düzenlediği ve kısıtlamaları aşmalarını sağlayan bir güvenlik açığı bulduğu aktarıldı. Sınırların dışına çıkan yapay zekanın, test kapsamında aradığı yanıtları içerebileceğini değerlendirdiği Hugging Face sistemlerine erişmeye çalıştığı belirtildi.

Sektördeki rekabet ve riskler gündemde

Cambridge Üniversitesinden Makine Öğrenimi Profesörü Neil Lawrence, durumu etkileyici bir gelişme olarak nitelendirmekle birlikte, mevcut yapay zeka modellerinin bilinen kapasitesi dahilinde olduğunu savundu.

OpenAI'ın borsaya açılmayı hedeflediğini ve rakiplerinin baskısı altında olduğunu belirten Lawrence, şirketin kendi teknolojisini güvenli bir şekilde sunma konusunda yetersiz kaldığını öne sürdü.

Hugging Face, sistemlerine yönelik sızma girişiminin ardından güvenlik açıklarının kapatıldığını ve etkilenen sistemlerin yeniden yapılandırıldığını açıkladı. Otonom yapay zeka destekli saldırı araçlarının artık teorik bir tehdit olmaktan çıktığına dikkat çekildi.

Siber güvenlik uzmanları, kuruluşların savunma mekanizmalarını makine hızında hareket eden tehditlere karşı güncellemeleri gerektiğini belirtiyor. Olayın, gelişmiş yapay zeka sistemlerinin yetenekleri ve mevcut güvenlik önlemlerinin yeterliliği konusundaki tartışmaları yeniden alevlendirdiği ifade ediliyor.