California Başsavcılığından Grok a deepfake soruşturması

Başsavcı Bonta, yaptığı açıklamada xAI'nın son haftalarda ürettiği ve internette paylaşılan rıza dışı, müstehcen materyallere ilişkin raporların şok edici olduğunu belirtti. Bonta, bu görüntülerin internet genelinde insanları taciz etmek için kullanıldığını vurgulayarak şirketi acil önlem almaya çağırdı.

Soruşturma, Grok kullanıcılarının internetteki sıradan kadın ve çocuk fotoğraflarını kullanarak rıza dışı cinsel içerikli görseller oluşturduğu ve bu içeriklerin X platformunda yayıldığı iddiaları üzerine odaklanıyor.

Yapılan analizler, Grok üzerinden üretilen 20 bin görselin yarısından fazlasının rıza dışı müstehcen içeriklerden oluştuğunu ve bunların bir kısmının çocukları hedef aldığını ortaya koydu.

California Valisi Gavin Newsom da xAI'nın kararını "iğrenç" olarak nitelendirerek şirketin "suçlular için bir üreme alanı" oluşturduğunu ifade etti. Demokrat senatörler ise Apple ve Google'a çağrıda bulunarak, X ve Grok uygulamalarının uygulama mağazalarından kaldırılmasını talep etti.

Elon Musk, iddialara yönelik yaptığı açıklamada Grok tarafından üretilen reşit olmayanlara ait çıplak görüntülerden haberdar olmadığını savundu.

Musk, Grok'un kendiliğinden görsel üretmediğini, bunun yalnızca kullanıcı talepleri doğrultusunda gerçekleştiğini belirtti. Şirket ayrıca yasa dışı içerik üreten kullanıcıların, bu içeriği yükleyenlerle aynı hukuki sonuçlarla karşılaşacağını duyurdu.

İngiltere'de medya denetleme kuruluşu Ofcom da Grok hakkında benzer bir inceleme yürütüyor. Yasaların ihlal edildiğinin tespit edilmesi durumunda, platformun küresel gelirinin yüzde 10'una kadar para cezasıyla karşı karşıya kalabileceği belirtiliyor.