İngiltere den Grok a deepfake görüntü soruşturması

İngiltere’nin medya düzenleyicisi Ofcom, Elon Musk’ın sahibi olduğu sosyal medya platformu X’in yapay zeka sohbet botu Grok’un, kullanıcıları yasa dışı içeriklerden koruma yükümlülüğünü ihlal edip etmediğini belirlemek üzere inceleme başlattı.

Ofcom’dan yapılan açıklamada, Grok’un kişilerin rızası olmadan oluşturulan cinsel içerikli görüntüler ile çocuklara yönelik cinsel istismar materyali üretiminde kullanıldığına dair ciddi iddialar bulunduğu belirtildi.

İngiltere Başbakanı Keir Starmer, Grok tarafından üretilen görüntüleri “iğrenç” ve “hukuka aykırı” olarak nitelendirdi. Starmer, X yönetiminin Grok üzerindeki denetimi artırması gerektiğini belirterek, Ofcom’un atacağı adımlara hükümetin tam destek verdiğini açıkladı.

İngiltere’de rıza dışı mahrem görüntülerin ve çocuklara yönelik cinsel istismar içeriklerinin üretilmesi ve paylaşılması, yapay zeka ile oluşturulmuş olsa dahi suç kapsamında değerlendiriliyor. Mevzuat, teknoloji şirketlerine bu tür içeriklerin kullanıcıların karşısına çıkmasını önleme ve tespit edildiğinde hızla kaldırma yükümlülüğü getiriyor.

X, daha önce yaptığı açıklamalarda platformda yer alan tüm yasa dışı içeriklerin kaldırıldığını ve bu içeriklerle bağlantılı hesapların kalıcı olarak askıya alındığını duyurdu. Şirket, Grok’u yasa dışı içerik üretmeye yönlendiren kullanıcıların da aynı yaptırımlarla karşılaşacağını bildirdi.

xAI ise Reuters’a yaptığı kısa açıklamada, “Geleneksel medya yalan söylüyor” ifadelerini kullandı.

Grok’un söz konusu özelliği, Fransa ve Hindistan başta olmak üzere birçok ülkede tepkiyle karşılandı. Fransa’da yetkililer, içeriği “açıkça yasa dışı” olarak nitelendirerek savcılığa başvururken, Hindistan’da da X’ten resmi açıklama talep edildi.

Ofcom, soruşturma kapsamında X’in yasa dışı içerik risklerini ve çocuklara yönelik tehditleri yeterince değerlendirip değerlendirmediğini inceleyecek. En ağır yaptırımlar arasında, reklam ve ödeme sağlayıcıların platformdan çekilmesi ya da İngiltere’den erişimin engellenmesi yer alıyor.