Google açıkladı! Gemini yi 100 bin soruyla klonlamaya çalıştılar

Yapay zeka teknolojileri geliştikçe, bu teknolojilerin güvenliği ve fikri mülkiyet hakları da büyük bir tartışma konusu haline geliyor. Google'ın paylaştığı rapor da bunun adeta bir örneği.

Android Authority'de yer alan habere göre; Google, popüler yapay zeka modeli Gemini'yi hedef alan büyük çaplı bir "klonlama" girişimini ortaya çıkardı. Şirketin son Tehdit İstihbarat Grubu raporu, Gemini'nin nasıl düşündüğünü çözmek için on binlerce sorgu kullanıldığını gözler önüne serdi.

100 BİN KOMUTLA GEMINI'I KLONLAMA GİRİŞİMİ

Google'ın raporuna göre, bir aktör Gemini'ye 100.000'den fazla komut (prompt) göndererek modelin akıl yürütme yeteneklerini çözmeye çalıştı. "Damıtma" (distillation) saldırısı olarak adlandırılan bu yöntemde, saldırganlar modeli tekrar tekrar sorgulayarak verdiği yanıtları analiz ediyor ve bu yanıtları rakip bir sistemi eğitmek için kullanıyor. Google, saldırganların sistemlere sızmadığını ve meşru API erişimini kullandıklarını ancak bu faaliyetin hizmet şartlarını ihlal ettiğini ve fikri mülkiyet hırsızlığı anlamına geldiğini belirtti.

HEDEF: NASIL AKIL YÜRÜTTÜĞÜNÜ ÇÖZMEK

Raporda dikkat çeken en önemli detay, saldırının Gemini'nin "akıl yürütme" yeteneklerine odaklanmış olması. Normal şartlarda Gemini, tam dahili "düşünce zincirini" kullanıcılara göstermiyor. Ancak Google'a göre saldırganlar, 100 bini aşkın komutla yapay zekayı nasıl akıl yürüttüğünü ifşa etmeye zorladı. Google, bu girişimi gerçek zamanlı olarak tespit ettiğini ve koruma önlemlerinin aldığını duyurdu.

SALDIRILARI GERÇEKLEŞTİREN KİM?

Google, bu girişimlerin arkasındaki isimleri açıklamasa da, çoğu girişimin rekabet avantajı elde etmek isteyen özel şirketler ve araştırmacılar tarafından gerçekleştirildiğini belirtti. Google Tehdit İstihbarat Grubu Baş Analisti John Hultquist, NBC News'e verdiği demeçte, işletmelerin hassas verilerle eğitilmiş kendi özel yapay zeka sistemlerini kurdukça, bu tür klonlama girişimlerinin sektör genelinde daha yaygın hale gelebileceği konusunda uyardı.

BAŞKA KÖTÜYE KULLANIMLAR DA TESPİT EDİLDİ

Rapor sadece model çıkarma girişimleriyle sınırlı değil. Google ayrıca tehdit aktörlerinin Gemini API'sini kullanarak anında kod üreten kötü amaçlı yazılımlar (malware) ve yapay zeka destekli oltalama (phishing) kampanyaları denediğini de tespit etti. Şirket, bu tür kötüye kullanımlarla ilişkili hesapların devre dışı bırakıldığını ve güvenlik önlemlerinin güncellendiğini açıkladı.