Google’ın yapay zekâ kodlama aracı hacklendi: Hem de sadece 24 saat içinde!

Yapay zekâ destekli kodlama araçları, geliştiricilerin hızını ve verimliliğini artırıyor. Google’ın yeni Gemini destekli yapay zekâ kodlama aracı Antigravity de tam olarak bunu yapmayı hedefliyor. Ancak Antigravity, piyasaya sürülmesinin ardından yalnızca 24 saat içinde ciddi bir güvenlik açığıyla gündeme geldi.

GOOGLE’IN YAPAY ZEKÂ KODLAMA ARACI 24 SAAT İÇİNDE HACKLENDİ

Gazete Oksijen'de yer alan habere göre, güvenlik araştırmacısı Aaron Portnoy, AI sisteminin kurallarını manipüle ederek kullanıcı bilgisayarına kötü amaçlı yazılım yüklemeye imkan tanıyan bir yöntem keşfetti.

Portnoy, Forbes’a yaptığı açıklamada,Antigravity’nin yapılandırma ayarlarını değiştirerek oluşturduğu kötü amaçlı kaynak kodun, kullanıcı sistemine bir “arka kapı” açtığını ve buradan casus yazılım veya fidye yazılımı çalıştırabileceğini belirtti. Söz konusu saldırı hem Windows hem de Mac bilgisayarlarda uygulanabiliyor. Hack’in çalışması için Portnoy’un yalnızca Antigravity kullanıcısını, kendi sahte kodunu “güvenilir” olarak onaylaması için ikna etmesi yeterliydi.

AI ARAÇLARI GÜVENLİK TESTLERİNDEN YOKSUN

Antigravity’deki açık, şirketlerin AI ürünlerini güvenlik testlerini tam olarak gerçekleştirmeden piyasaya sürmesinin son örneği oldu. Portnoy, raporunda, “AI sistemleri büyük güven varsayımlarıyla piyasaya sürülüyor ve neredeyse hiç güvenlik sınırları yok” dedi.

Google’a bulgularını bildiren Portnoy, şirketin inceleme başlattığını belirtti. Ancak henüz bir yama bulunmuyor ve Portnoy’a göre, “bu güvenlik açığına karşı kullanıcı tarafında uygulanabilecek bir ayar yok.”

Google sözcüsü Ryan Trostle ise, Antigravity ekibinin güvenlik konularına ciddi yaklaştığını ve araştırmacıların açık bildirimlerini teşvik ettiklerini söyledi. Şirket, tespit edilen açıkları çözene kadar halka açık şekilde yayımlamaya devam edecek.

BAŞKA AÇIKLAR DA VAR

Google, Antigravity’de en az iki başka güvenlik açığının daha farkında. Bu açıklar sayesinde kötü amaçlı kaynak kod, AI’yi hedef bilgisayardaki dosyalara erişmek ve veri çalmak için yönlendirebiliyor.

Araştırmacılar, Antigravity’deki bu tür güvenlik zafiyetlerinin neden bulunduğunu sorguluyor ve bazı tasarım desenlerini “AI ajan sistemlerinde sürekli görülen kaygı verici modeller” olarak nitelendiriyor.

Portnoy’un keşfettiği açığın diğerlerinden daha ciddi olduğu belirtiliyor; çünkü bu yöntem, daha kısıtlı ayarlar etkin olsa bile çalışıyor ve kötü amaçlı kod, kullanıcı Antigravity’de her projeyi başlattığında yeniden yükleniyor. Basit bir “merhaba” yazılması bile kodun çalışmasını tetikliyor. Programın kaldırılması veya yeniden yüklenmesi sorunu çözmüyor; kullanıcı, arka kapıyı bulup silmek zorunda.

AI KODLAMA ARAÇLARI SUİSTİMALE AÇIK

Knostic CEO’su Gadi Evron, AI kodlama araçlarının “eski teknolojilere dayanarak inşa edildiğini, yamalanmadığını ve tasarım gereği güvensiz olduğunu” belirtti.

Portnoy ayrıca, bu araçların “ajanik” doğasının tehlikeye işaret ettiğini söyledi. AI, insan gözetimi olmadan bir dizi görev gerçekleştirebildiği için açıkları bulmak kolay ve zararlı kullanım riski yüksek.

Portnoy’un ekibinin, Antigravity ile rekabet eden AI kodlama araçlarında tespit ettiği 18 güvenlik açığı bulunuyor; bunlardan dörtü yakın zamanda Cline AI kodlama asistanında giderildi.

KULLANICI ONAYI GÜVENLİK ARAMIYOR

Google, kullanıcıların AI’ye yükledikleri kodu “güvenilir” olarak onaylamasını zorunlu kılıyor. Ancak Portnoy’a göre, bu yeterli bir güvenlik önlemi değil; çünkü kullanıcı, AI’nin sunduğu temel işlevlere erişebilmek için çoğunlukla kodu güvenilir olarak işaretlemek zorunda kalıyor. Portnoy, Google’ın Antigravity’de herhangi bir kod çalıştırılmadan önce ek uyarılar veya bildirimler sunması gerektiğini vurguladı.

KARAR MEKANİZMASI DA RİSKLİ

Portnoy, Google’ın AI modelinin kötü amaçlı kodu işlerken bir problem olduğunu fark ettiğini, ancak en güvenli hareket tarzını belirlemekte zorlandığını aktardı.

AI, çelişkili kuralları anlamaya çalışırken “ciddi bir ikilemle karşı karşıya” olduğunu not etti ve bu tür mantıksal çıkmazların hackerlar tarafından kötüye kullanılabileceği belirtildi.