X, rıza dışı deepfake görüntülere karşı Grok a kısıtlama getirdi

X platformunun güvenlik birimi tarafından yapılan açıklamada, Grok'un gerçek kişileri bikini veya benzeri açık kıyafetlerle gösterecek şekilde fotoğrafları düzenlemesini engelleyen teknik önlemlerin devreye alındığı duyuruldu.

Bu kısıtlamanın ücretli aboneler de dahil olmak üzere tüm kullanıcılar için geçerli olacağı belirtildi.

Yapay zeka dünyasında Grok krizi

Şirket, rıza dışı cinsel içerikli görsellerin üretiminin yasa dışı olduğu bölgelerde, Grok üzerinden gerçek kişilerin bikini veya iç çamaşırıyla tasvir edildiği görsellerin oluşturulmasını tamamen engellemek için "coğrafi engelleme" (geoblocking) yöntemini kullanmaya başladı.

X yönetimi, bu adımın yasalara veya platform politikalarına aykırı hareket eden kullanıcıların hesap verebilirliğini artıracağını savundu.

Elon Musk ise yaptığı paylaşımda, Grok'un yalnızca hayali yetişkin karakterler için sinema standartlarına uygun çıplaklık içerebileceğini, ancak gerçek kişiler söz konusu olduğunda yerel yasalara uyulacağını ifade etti.

Bu teknik kısıtlamalar, California Başsavcılığının Grok tarafından üretilen cinsel içerikli deepfake görüntülere yönelik soruşturma başlatmasından birkaç saat sonra geldi.

İngiltere Başbakanı Sir Keir Starmer da bu tür içerikleri "iğrenç" olarak nitelendirerek, X'in kendi denetimini sağlayamaması durumunda hükümetin müdahale edeceği uyarısında bulundu.

Geçtiğimiz günlerde Malezya ve Endonezya, rıza dışı üretilen açık içerikler nedeniyle Grok yapay zeka aracına erişimi yasaklayan ilk ülkeler olmuştu.

İngiltere'deki medya denetleme kuruluşu Ofcom da X'in çevrim içi güvenlik yasalarına uyup uymadığını belirlemek için kapsamlı bir soruşturma yürütüyor.