Grok un Deepfake içerikler nedeniyle başı yeniden belada

Kullanıcıların ocak ayında getirilen çıplaklık kısıtlamalarını aşmak için yeni yöntemler geliştirdiği görülüyor.

Özellikle ünlü isimlerin fotoğrafları ile farklı pozlardaki çizimleri birleştiren kullanıcılar, yapay zekayı rıza dışı müstehcen kompozisyonlar oluşturmaya zorluyor.

Bunun yanı sıra gerçek fotoğrafların videoya dönüştürülmesi sırasında sisteme eklenen cinsel içerikli hareketler de dikkat çeken ihlaller arasında yer alıyor.

Hukuki süreçte ise baskı giderek artıyor.

xAI şirketinin SpaceX çatısı altına girmesi, Grok nedeniyle doğabilecek devasa cezaların Musk’ın roket şirketini de doğrudan etkilemesine yol açabilir.

Halihazırda Avrupa Komisyonu, California Başsavcılığı ve Avustralya e-Güvenlik Ofisi dahil olmak üzere sekiz ayrı kurum soruşturmalarını sürdürüyor.

Hollanda’daki bir mahkeme ise Grok’un yetişkin veya çocuklara yönelik soyunma görüntüleri üretmesini durdurmasına hükmetti.

X yönetimi, rıza dışı müstehcen derin kurguların yasak olduğunu ve güvenlik önlemlerinin sürekli güncellendiğini savunsa da uzmanlar bu filtrelerin hala yetersiz olduğu görüşünde.

Araştırmacılar, Grok’un hala dünyanın en büyük rıza dışı sentetik çıplaklık üreticilerinden biri olduğunu ve kullanıcıların sistem açıklarını istismar etmeye devam ettiğini belirtiyor.