Claude metinlerine görünmez filigran geliyor: Kopyala yapıştırda da taşınabilecek

Anthropic, Claude tarafından üretilen içeriklerin yapay zekâ tarafından oluşturulduğunun anlaşılmasını kolaylaştırmak için yeni bir işaretleme sistemi hazırlıyor.

Şirket, Claude'un ürettiği metinlere insan gözüyle görülemeyen filigranlar yerleştireceğini, desteklenen dosyalara ise dijital olarak imzalanmış kaynak bilgileri ekleyeceğini açıkladı.

Yeni işaretler kullanıcı tarafından normal şekilde görülmeyecek ancak insanların ve çevrim içi platformların içeriğin Claude modelleri tarafından üretilip üretilmediğini tespit etmesine yardımcı olacak.

FİLİGRAN METNİN İÇİNE YERLEŞTİRİLECEK

Anthropic'e göre Claude'un oluşturduğu metinlere "algılanamaz" bir filigran doğrudan metnin içine işlenecek.

Şirket, bu işlemin metnin anlamını, kalitesini veya okunabilirliğini değiştirmeyeceğini belirtiyor.

Filigran metnin bir parçası olduğu için içerik başka bir yere kopyalanıp yapıştırıldığında da onunla birlikte taşınabilecek.

Anthropic ayrıca işaretin bazı düzenleme işlemlerinden sonra da korunabileceğini ifade ediyor.

Filigranlama model seviyesinde uygulanacağı için desteklenen Claude modelinin hangi ürün veya hizmet üzerinden kullanıldığından bağımsız olarak metinde bulunacak.

AWS, Google Cloud veya Microsoft Foundry üzerinden erişilen desteklenen Claude modellerinin ürettiği metinler de sistemin kapsamına girecek.

GÖRSELLERDE C2PA KULLANILACAK

Görseller ve desteklenen dosyalarda ise farklı bir yöntem uygulanacak.

Anthropic, Claude tarafından işlenen desteklenen dosyalara, Adobe, OpenAI ve Google gibi şirketlerin de benimsediği bir kaynak metadatası standardı olan C2PA'ya dayalı dijital olarak imzalanmış kaynak metadatası ekleyecek.

Şirket, Claude metinlerindeki görünmez filigranların ve dosyalardaki kaynak bilgilerinin kullanıcılar ile üçüncü taraflar tarafından tespit edilebilmesini sağlayacak araçlar üzerinde de çalışıyor.

Bu tespit sistemine ilişkin daha fazla ayrıntının ileride yayımlanacak teknik belgelerde paylaşılması planlanıyor.

C2PA metadatasını tespit etmeye yönelik Google Gemini dahil çeşitli araçlar hâlihazırda bulunuyor ancak bunların Claude tarafından işlenen dosyalarda çalışıp çalışmayacağı henüz net değil.

DEĞİŞİKLİK TÜM MEVCUT MODELLERE HEMEN GELMEYECEK

Yeni sistem hemen bütün Claude modellerinde devreye girmeyecek.

Avrupa Birliği'nin Yapay Zekâ Yasası 2 Ağustos'ta yürürlüğe girdi ve bu tarihten önce piyasaya çıkan mevcut yapay zekâ ürünleri için dört aylık bir uyum süresi tanındı.

Anthropic, yeni Claude modellerinin işaretlemeyi kullanıma sunuldukları ilk günden itibaren destekleyeceğini belirtiyor. Daha önce piyasaya çıkan mevcut modeller için ise işaretleme desteğinin geliştirilmesi devam ediyor.

Değişiklik; Claude Platform, Claude, Claude Code, Claude Cowork ve Claude Tag dahil desteklenen Claude ürünlerinde küresel olarak uygulanacak.

İŞARET BULUNMAMASI AI KULLANILMADIĞI ANLAMINA GELMEYECEK

Anthropic, filigran ve kaynak bilgilerinin kusursuz bir tespit yöntemi olmadığını da kabul ediyor.

Claude tarafından üretilmiş bir içerik üzerinde yapılan değişiklikler işaretin tespit edilmesini zorlaştırabilir.

Dosyalardaki C2PA verileri de içeriğin başka platformlara yüklenmesi sırasında kaldırılabilir.

Bu nedenle bir içerikte tespit edilebilir filigran veya kaynak verisi bulunmaması, içeriğin üretken yapay zekâ tarafından oluşturulmadığını kesin olarak göstermeyecek.

Anthropic'in yeni işaretleme sistemi, Avrupa Birliği'nin yapay zekâ tarafından oluşturulan içeriklerde şeffaflığı artırmaya yönelik yeni kurallarına uyum çalışmalarının bir parçası olarak hayata geçirilecek.

(Kaynak: The Verge)