İnsanları çıplak hale getiren uygulama dehşete düşürdü, mahkemelik oldular

ClothOff, yapay zekâ teknolojisi kullanarak, üzerlerinde kıyafet olan bir fotoğraf yüklenmesi sonunda kişilerin çıplak hâle getirilmiş görsellerini saniyeler içinde oluşturabiliyor. 

Uygulama her gün yaklaşık 200 bin görüntü üretiyor ve 27 milyonun üzerinde görüntülenme almış durumda. 

ABD, New Jersey’de bir mahkemede açılan davada, 17 yaşında bir genç kız (“Jane Doe” takma adıyla) kendisi hakkında izni olmadan çıplak görseller oluşturduğu gerekçesiyle uygulamanın arkasındaki şirketi sorumlu tuttu.

Davada iddia edilenler arasında: bu uygulamanın rıza olmadan çıplak görseller ürettiği, bu içerikleri para karşılığı sunduğu ve hatta bu görsellerin çocukların ve yetişkinlerin istismarı için bir araç hâline geldiği yönünde suçlamalar bulunuyor. 

Ayrıca başvuruda, uygulamanın kullanıcılarını “herkesi çıplak hâle getir” gibi bir sloganla teşvik ettiği ve bu teknolojinin kullanıcı verilerini kötüye kullanabileceği, görsellerin yayılabileceği ya da yapay zeka eğitimi için kullanılabileceği belirtiliyor. 

Bu vaka, yapay zekanın kişisel görsel veriler üzerinde nasıl kötüye kullanılabileceğini ve mahremiyet, istismar riski, yasal ve etik sorunlar barındırdığını bir kez daha gözler önüne serdi.

Uzmanlara göre, bu tür uygulamalar için hukuki düzenlemelerin ve teknoloji kullanım denetimlerinin artırılması önemli. Ayrıca bireylerin kendi görüntülenin kullanımı için yapay zeka uygulamalarına izin verirken çok daha dikkatli olması öneriliyor.