Yapay zekâ ile dijital taciz... 200 TL’ye ‘deepfake’ tuzağı

Avrupa Birliği, X’e entegre edilen yapay zekâ aracı Grok aracılığıyla üretilen cinsel içerikli sahte görüntülerin (deepfake) yayılmasını engellemek için harekete geçti. Peki, bu tür görüntüler sadece Grok’la mı üretilebiliyor? Cevap kocaman bir hayır!

UYGULAMA SATIN ALDIM

Mağazalarda birçok deepfake uygulaması var. Bu uygulamaların birçoğu reklamlarını sosyal medya platformları aracılığıyla yapıyor. Reklamlarda fotoğraf ve videoların nasıl düzenlendiği, ortaya nasıl bir sonuç çıktığı ayrıntılı biçimde gösteriliyor. Aplikasyonu indirdiğinizde karşınıza 4 seçenek çıkıyor. Yıllık, aylık, haftalık ve ücretsiz abonelik… Uygulamayı ücretsiz kullanmayı tercih ederseniz son derece sınırlı bir kullanıma erişiyorsunuz.

KIYAFET, ORTAM DEĞİŞİYOR

Ancak diğer tercihlerde uygulamada sunulan tüm özellikler aktif hale geliyor. Uygulamada eğlenceli deepfake uygulamaları da mevcut. Fakat asıl tehlike uygulamanın diğer bölümlerinde ortaya çıkıyor. ‘Hug’ ve ‘French kiss’ başlığı altında sunulan bölümde istediğiniz fotoğrafla deepfake videoları oluşturabiliyorsunuz. Hatta fotoğraf uygunsa, kişilerin kıyafetlerini, bulundukları ortamı da değiştirebiliyorsunuz.

Bazı uygulamalar o kadar gelişmiş ki, yüklediğiniz fotoğrafların bulunduğu ekrana istediğiniz senaryoyu yazarak son derece başarılı deepfake videoları hazırlayabiliyorsunuz. Bazı aboneliklerde kota sistemi var. Yani ürettiğiniz deepfake uygulamasının niteliğine göre hesabınızdan kota düşüyor. Kotanız dolarsa yeniden satın alma işlemi yapmak zorunda kalıyorsunuz. Ürettiğiniz deepfake ürününü hiçbir ‘yapay zekâ’ etiketi olmadan kolayca cep telefonunuza indirip istediğiniz platformda paylaşabiliyorsunuz.

YAŞ SINIRI UYARISI YOK

Abonelik fiyatları uygulamanın kalitesine göre değişiyor. Yıllık abonelikler 2-3 bin TL’yi buluyor. Ancak haftalık aboneliklerde 150-200 TL gibi cüzi bir ücrete sınırlı kullanım hakkı kazanıyorsunuz. Deepfake videosu için yüklenen fotoğraflarla ilgili hiçbir sınırlama yok. Yani ister ünlü ister sıradan bir kişinin fotoğrafını sisteme yükleme ve deepfake videosu üretme şansınız var. Aplikasyonların büyük bölümünde fotoğraflarla ilgili herhangi bir yaş sınırı uyarısı da yok.

UZMANLAR NE DİYOR

ÇOCUKLAR HEDEFTE

Bilişim ve teknoloji hukukçusu Avukat Yaren Erdem: “Maalesef bu uygulamaları kullananlar öncelikle çocukları hedef alıyor. Özellikle erkek çocukların hedef seçildiği video ve fotoğraflarla ilgili çok sayıda şikâyet alıyoruz. Yapay zekâ uygulamaları artık çok başarılı. Bir fotoğraf veya videonun gerçek mi yoksa yapay zekâyla mı hazırlandığını tespit etmek çok zorlaştı. Bu sürecin yarattığı paranoya en fazla çocuklu aileleri tedirgin ediyor. Elimizde 13 yaşında bir kızımızla ilgili bir dosya var. Kızımızın yapay zekâ videoları oluşturulmuş. Kız perişan, aile perişan. Hukuki destek veriyoruz ancak yasal mevzuat birçok noktada tıkanıp kalıyor. Mağduriyetler ilkokul düzeyine kadar inmiş durumda.”

MAĞDURİYET ARTABİLİR

E-ticaret, web3 eğitmeni Behçet Ülker: “Maalesef yapay zekâ uygulamalarına kötü niyetli kişiler de artık çok kolay ulaşıyor. Yasal alt yapımız bu konuda caydırıcı değil. Fotoğraf ve videoların son derece profesyonel ve kısa sürede değiştirilmesi çok kolay hale geldi. Bu görevi yerine getiren çok ucuz aplikasyonlar mevcut. Oluşturulan fotoğraf ve videolar o kadar gerçekçi ki, neyin gerçek neyin sahte olduğunu anlamakta zorlanıyoruz. Şüphesiz ki, olumsuzlukların önüne geçmek için caydırıcı bir yasal mevzuat oluşturmak gerekiyor. Aksi halde yapay zekâ uygulamaları geliştikçe daha çok mağduriyet ortaya çıkacaktır.”

İSPANYA ÖRNEĞİ

Siber güvenlik uzmanı Muharrem Baki: “Deepfake uygulamalarına erişim son kullanıcılara kadar indi. Her türlü fotoğrafı yaş sınırı olmadan bu sistemlere yükleyebiliyorsunuz. Taciz, şantaj ve zorbalık da işin içine girince korkunç bir süreç ortaya çıkıyor. Maalesef artık herkes yapay zekâ üretebilir hale geldi. İspanya ve Danimarka yeni bir yasa tasarısı ile yapay zekâ ile görüntü ve ses üretilmesine sınır getirdi, yaş sınırı koydu ve cezaları caydırıcı bir niteliğe taşıdı. Bizim kanunlarımızda deepfake suç kategorisinde değil. Bu tür suçlar özel hayatın gizliliği kapsamına alınıyor. Bu süreci daha ayrıntılı, daha nitelikli hale getirmek lazım.”