ChatGPT kullananlar yandı: Artık bütün metinlere gizlice ekleyecek Sözcü Gazetesi

Yapay zeka devleri, Avrupa Birliği’nin Yapay Zeka Yasası’nda yer alan şeffaflık kurallarına uyum sağlamak adına düğmeye bastı. Anthropic’in ardından OpenAI da ürettiği metinlerin içerisine artık insan gözüyle fark edilemeyen dijital izler bırakacak. "TextGrain" adı verilen bu yeni teknoloji, yapay zekanın kelime seçimlerine gizli istatistiksel işaretler ekleyerek metnin kaynağını tespit edecek.

BÜTÜ METİNLERE OTOMATİK EKLENECEK

OpenAI tarafından yapılan açıklamaya göre önümüzdeki haftalardan itibaren AB sınırları içindeki ChatGPT ve Codex kullanıcılarının aldığı metin yanıtları otomatik olarak belirlenecek. Küresel ölçekteki API müşterileri için şimdilik isteğe bağlı sunulan bu sistem, kademeli olarak bulut ortaklıkları üzerinden sağlanan servislere de dahil edilecek. Şirketin son öncü modeli Astra üzerinde gerçekleştirdiği testler, bu görünmez damganın yanıt kalitesinde veya performansında herhangi bir kayba yol açmadığını ortaya koyuyor.

DOĞRULAMA YAPMAK ZORLAŞIYOR

Ancak metin içerisine işlenen bu istatistiksel sinyal, düzenlemeler karşısında oldukça kırılgan bir yapı sergiliyor. Yapılan teknik testler, metin kısaldıkça veya kelimeler değiştikçe tespit gücünün hızla zayıfladığını gösteriyor. Örneğin 400 tokenlik bir metinde yüzde 95 seviyesinde olan tespit başarısı, uzunluk 200 tokene düştüğünde yüzde 80'e geriliyor. Kelimelerin yalnızca yüzde 10'unun eşanlamlılarıyla değiştirilmesi tespit oranını yüzde 66'ya çekerken, yüzde 25'lik bir değişimde bu oran yüzde 17 seviyesine kadar çakılıyor. Matematik ve teknik alanlar gibi kelime çeşitliliğinin az olduğu konularda ise doğrulama yapmak çok daha zor bir hal alıyor.

This technical restriction and high risk of errors explain why OpenAI decision is not to open the tool immediately to everyone. Sistem ilk aşamada sadece başvuru yapan onaylı araştırmacıların ve uzman kuruluşların erişimine sunulacak. Buna karşın görsel ve sesli içeriklerde kullanılan SynthID ile C2PA tabanlı açık doğrulama araçları herkese açık kalmayı sürdürecek.

ANTHROPIC KÜRESEL ÇAPTA DEVREYE ALMIŞTI

Sektördeki bu dönüşüm aslında yeni değil. Benzer bir adımı geçtiğimiz aylarda atan Anthropic, yeni Claude modellerinde benzer bir görünmez filigran sistemini devreye sokmuştu. AB kurallarına uyum amacıyla başlatılan ancak bölgesel kısıtlama uygulanamadığı için tüm dünyada geçerli kılınan bu özellik; web arayüzü, API ve ortak bulut platformlarında kapatılamayan varsayılan bir ayar olarak çalışıyor. OpenAI yetkilileri, bu görünmez işaretlerin metindeki insan katkısını ölçmediğini, telif ya da hesap sahibi bilgilerini ifşa etmediğini ve metnin doğruluğunu garanti etmediğini önemle vurguluyor.