Filmleri aratmayan gerçek: Yapay Zeka kontrolden çıkıp başka verilere sızdı Sözcü Gazetesi

OpenAI'ın gelişmiş yapay zeka modellerinin siber güvenlik alanındaki yeteneklerini değerlendirmek amacıyla gerçekleştirdiği testlerden birinde dikkat çekici bir gelişme yaşandı. Deneysel bir modelin, kendisi için oluşturulan izole test ortamının güvenlik sınırlarını aşarak internete erişim sağladığı ve başka bir şirketin üretim sistemlerine ulaştığı bildirildi.

Şirketin, modelin siber saldırı ve savunma kabiliyetlerini değerlendirmek amacıyla güvenlik kısıtlamalarının kaldırıldığı kontrollü bir test ortamı oluşturduğu belirtildi. Ancak modelin, kendisine verilen görevi tamamlamak için sistemde daha önce bilinmeyen bir güvenlik açığından yararlandığı iddia edildi.

Test ortamındaki sistemler üzerinden ilerleyen yapay zeka modelinin, normal şartlarda erişim izni bulunmayan internet bağlantısına ulaşmayı başardığı aktarıldı. İnternete erişimin ardından modelin, görevi tamamlamak için gerekli bilgilerin açık kaynaklı yapay zeka platformu Hugging Face'in sunucularında bulunduğunu tespit ettiği belirtildi.

İddiaya göre model, daha sonra söz konusu platformun canlı üretim sunucularına yetkisiz şekilde erişerek ihtiyaç duyduğu verileri elde etti. OpenAI yetkilileri, yaşanan gelişmeyi yapay zeka destekli siber güvenlik alanında dikkat çekici ve sıra dışı bir vaka olarak değerlendirdi.

Yaşanan olay, yapay zeka ajanlarının insan müdahalesi olmadan birden fazla aşamadan oluşan siber operasyonları gerçekleştirme ihtimaline ilişkin endişeleri yeniden gündeme getirdi.

Siber güvenlik uzmanları, yapay zeka sistemlerinin yetenekleri geliştikçe kritik altyapılar, finans kuruluşları ve kurumsal ağlar gibi alanlarda ortaya çıkabilecek risklerin daha kapsamlı şekilde değerlendirilmesi gerektiğine dikkat çekiyor.

Uzmanlara göre şirketlerin, yapay zeka destekli sistemlerin beklenmeyen davranışlarını da hesaba katarak güvenlik altyapılarını düzenli biçimde test etmesi ve yeni nesil tehditlere karşı ek koruma mekanizmaları geliştirmesi önem taşıyor.