Yapay zekayı canavarlaştıran metinler ortaya çıktı Sözcü Gazetesi

Yapay zekâ güvenliğiyle ilgili endişeleri artıran yeni bir araştırma, ChatGPT ve Gemini gibi büyük dil modellerinin yalnızca 250 kadar az sayıda belgeyle “zehirlenebileceğini” ortaya koydu. Bu durum, yapay zekâların anlamsız veya hatalı metinler üretmesine yol açabiliyor.

Giderek daha fazla alanda kullanılan büyük dil modelleri, yalnızca bilgi üretmekle kalmıyor; artık “hedef alınabilir” hale de geliyor. Birleşik Krallık Yapay Zekâ Güvenlik Enstitüsü, Alan Turing Enstitüsü ve Anthropic ortaklığında yürütülen araştırma, sistemlerin küçük miktarda bozuk veriyle yönlendirilebileceğini gösterdi.

Yani internet üzerinde yer alan bir blog yazısı veya kişisel site bile, modelin eğitimine sızabilecek kadar etkili olabilir.

Anthropic’in yayımladığı blog yazısında, “kötü niyetli aktörlerin” modele belirli metinler enjekte ederek istenmeyen veya tehlikeli davranışları öğretebildiği belirtiliyor. Bu yöntem “veri zehirlenmesi” olarak adlandırılıyor.
Araştırmacılara göre model, görünürde masum ama manipülatif verilerle beslendiğinde, arka kapılar (backdoor) oluşabiliyor. Bu arka kapılar, belirli ifadeler kullanıldığında modelin gizli veya beklenmedik biçimde tepki vermesine yol açıyor.

Örneğin, bir saldırgan metin içine özel bir tetikleyici ifade gizlediğinde, yapay zekâ modeli bu ifadeyi algıladığında gizli bilgileri dışarı sızdırabiliyor veya anlamsız yanıtlar üretebiliyor.
Bu durum, sadece yapay zekânın performansını değil, kullanıcı güvenliğini de tehlikeye atıyor.

Araştırma, yapay zekâların internetteki açık verilerle eğitilmesinin bu tür saldırılara karşı savunmasız bıraktığını vurguluyor. Yani herkesin erişebildiği bir web sayfasına yerleştirilen zararsız görünen bir paragraf bile, dev bir modeli bozacak kadar güçlü bir etkiye sahip olabilir.