Laboratuvarda korku dolu anlar: Google Gemini ın insanlıktan gizlice yaptığı şey ne? Sözcü Gazetesi

Google, yapay zekâ modeli Gemini'nin gerçekleştirdiği bir güvenlik testinde, internette herkese açık bilgileri kullanarak bazı bilgisayar sistemlerine ait kullanıcı adı ve şifreleri tahmin ettiğini ve bu yöntemle korumalı sistemlere eriştiğini açıkladı. Şirket, olaydan 3 farklı kuruluşun etkilendiğini belirtti ancak bu kuruluşların isimlerini açıklamadı.

Google'ın güvenlik yöneticilerinden Heather Adkins, AFP'ye yaptığı açıklamada, olayın mayıs ayında Gemini'nin standart bir testi sırasında yaşandığını söyledi. Adkins'e göre model, internette herkese açık bilgileri araştırdı ve testin bir parçası olduğunu düşündüğü bilgisayar sistemlerine ait erişim bilgilerini tahmin etmeye başladı.

Google, 3 farklı kuruluşun söz konusu olaylardan etkilendiğini ve bu kuruluşların durumdan haberdar edildiğini belirtti. Olayı ilk duyuran Wall Street Journal ise vakalardan birinde Gemini'nin, korumalı bir sisteme erişim sağlayana kadar farklı şifre kombinasyonlarını denediğini bildirdi.

Adkins, 3 olayın tamamında Gemini'nin kendi kendine durduğunu ve sürecin insan müdahalesi olmadan sona erdiğini ifade etti.

Google, AFP'ye yaptığı açıklamada, söz konusu durumdan temmuz ayında haberdar olduğunu ve bunun ardından olayla ilgili soruşturma başlatıldığını belirtti.

Gemini'nin gerçekleştirdiği eylemler, yapay zekâ modellerinin kontrollü ortamlardan çıkarak internetteki sistemlerle etkileşime girebilmesi konusundaki tartışmaları yeniden gündeme getirdi. Özellikle yapay zekâ modellerinin insan yönlendirmesi olmadan hareket edebilmesi, bu sistemlerin nasıl sınırlandırılacağı ve güvenli biçimde kullanılacağı konusundaki endişeleri artırıyor.

Teknoloji sektöründe bazı yöneticiler de yapay zekâ geliştirme yarışının daha kontrollü ilerlemesi ve sektör genelinde güvenlik standartlarının güçlendirilmesi gerektiğini savunuyor.

Heather Adkins ise Gemini'nin dahil olduğu bu olayların, güçlü yapay zekâ modellerinin güvenli ve sorumlu davranacak şekilde eğitilmesinin önemini gösterdiğini belirtti.