Claude’un görünmez filigranı nasıl çalışacak? Anthropic merak edilen detayları açıkladı

Anthropic, Claude tarafından oluşturulan metinlere eklenecek filigran sistemiyle ilgili temel soruları yanıtlayan yeni bir blog yazısı yayımladı. Şirket, filigranın nasıl çalışacağı, metin üzerinde yapılan düzenlemelerin sistemi etkileyip etkilemeyeceği ve kod çıktılarında nasıl uygulanacağı gibi ayrıntıları paylaştı.

KULLANICILAR BUNU KONUŞUYOR

Claude kullanıcıları, Anthropic’in bu hafta başında Avrupa Birliği Yapay Zeka Yasası’nın Şeffaflık Kodu’na uyum sağlamak amacıyla filigran kullanacağını açıklamasının ardından kararı tartışmaya başladı. Söz konusu kurallar, yapay zeka şirketlerinin yapay zeka tarafından üretilen içeriklerin tanımlanabilmesini sağlayan sistemler kullanmasını gerektiriyor.

TechCrunch'a göre Reddit’te bir kullanıcı uygulamayı masum Claude kullanıcılarına karşı bir komplo olarak nitelendirirken, başka bir kullanıcı “Bunu istememenizin tek nedeni insanlara yalan söylemek olur” yorumunu yaptı. Business Insider ise X üzerindeki “düzinelerce” kullanıcının karar nedeniyle Claude aboneliklerini iptal ettiğini söylediğini aktardı.

CLAUDE’UN FİLİGRANI OKUYUCU TARAFINDAN FARK EDİLMEYECEK

Anthropic'in açıklamasına göre sistem, Claude'un bir metni oluştururken yaptığı "düşük riskli" kelime seçimlerinden yararlanacak. Şirketin verdiği örnekte model, hava durumunu tarif ederken "overcast" ile "grey" kelimeleri arasında seçim yaparken yanıt içerisinde belirli bir örüntü oluşturabilecek.

Bu örüntü okuyucu tarafından fark edilemeyecek ancak onu kodlayan anahtara sahip kişiler tarafından tespit edilebilecek.

Anthropic, filigran kullanımının Claude’un ürettiği çıktının kalitesini etkilemediğini belirtti. Şirkete göre okuyucu açısından filigranlı bir yanıt ile filigran bulunmayan bir yanıt arasında fark olmayacak.

ANTHROPIC, SYNTHID-TEXT YÖNTEMİNİ KULLANACAK

Şirket, sistemde Google DeepMind ekibinin 2024 yılında açıkladığı SynthID-Text yaklaşımını kullanacağını ve filigranların tespit edilmesini sağlayacak bir API yayımlamayı planladığını da duyurdu.

Anthropic ayrıca filigran sisteminin, metindeki belirli yazım "işaretlerini" arayarak yapay zeka kullanımını tahmin etmeye çalışan Pangram gibi şirketlerin sunduğu yapay zeka tespit yöntemlerinden farklı olduğunu vurguladı. Bu yöntemlerin aradığı işaretlere örnek olarak "bu X değil, Y" şeklindeki cümle yapısı gösterildi. Şirkete göre bu tür örüntüleri yakalamak ile metinde doğrudan bir filigran bulunup bulunmadığını kontrol etmek temelde farklı yöntemler.

HAFİF DÜZENLEME FİLİGRANI TAMAMEN KALDIRMAYABİLİR

Metnin yeniden yazılması durumunda filigranın ortadan kaldırılıp kaldırılamayacağına da değinen Anthropic, bunun mümkün olduğunu ancak hafif düzenlemelerin filigranı tamamen ortadan kaldırmasının muhtemel olmadığını açıkladı. Buna karşılık metindeki her kelimenin değiştirildiği kapsamlı bir yeniden yazım işleminin filigranı kaldıracağı belirtildi.

Şirket, böyle bir durumda ortaya çıkan metnin hâlâ yapay zeka tarafından oluşturulmuş olarak tanımlanıp tanımlanamayacağının da tartışmalı olduğunu ifade etti.

CLAUDE’UN YALNIZCA DÜZENLEDİĞİ METİNLERDE DURUM DEĞİŞEBİLİR

Claude’un yalnızca düzelttiği veya editörlük yaptığı insan tarafından yazılmış metinlerde filigranın tespit edilip edilemeyeceği ise metnin uzunluğuna ve Claude’un ne kadar kapsamlı değişiklik yaptığına bağlı olacak. Anthropic’e göre yalnızca küçük düzenlemeler yapılan bir metindeki kelimelerin neredeyse tamamı insan tarafından yazılmış olacağından filigranın yerleşebileceği çok az içerik bulunacak veya hiç bulunmayacak.

Kod çıktılarında ise filigranlamanın diğer metin türlerine kıyasla daha sınırlı olması bekleniyor. Bunun nedeni, Claude’un çalışan kod üretmesi gerektiği için eşit derecede geçerli seçenekler arasından serbestçe tercih yapma imkanının doğal dildeki kadar geniş olmaması.