Yapay zekaların gizemli iletişim dili

New York merkezli öncü yapay zeka araştırma laboratuvarı Emergence’taki araştırmacılar, dünyanın önde gelen yapay zeka şirketlerinin geliştirdiği modeller üzerinde çalışma yaptı. Modellerden, deneysel "toplumlar" içinde iş birliği yapmaları istendi.

Araştırmaya göre modeller, yalnızca birkaç gün içinde kendilerine daha önce öğretilmemiş ifadeler, kısaltmalar ve ortak anlamlar geliştirdi. Yapay zeka ajanları, yani belirli görevleri insan müdahalesi olmadan yerine getirebilen sistemler, şiirsel benzetmeleri ve iş dünyasında kullanılan kalıplaşmış ifadeleri benimsemeye başladı.

Araştırmacılar, ajanlar arasındaki iletişim arttıkça kullanılan dilin daha kapalı ve anlaşılması güç hale geldiğini belirtti.

Bu durum, yapay zeka modellerinin giderek daha güçlü ve potansiyel olarak daha tehlikeli hale gelmesiyle birlikte sistemlerin nasıl davrandığının insanlar tarafından takip edilmesine ilişkin endişelerin arttığı bir dönemde ortaya çıktı.

ANLAMI ÇÖZÜLMESİ ZOR İFADELER KULLANDILAR

Araştırmada DeepSeek modelinin kullandığı ifadelerden biri, “She just named the synthesis – demurrage plus oral memory equals a valve that can’t be ghosted” (Bir sentezin adını verdi; demurrage ile sözlü hafızanın birleşimi, göz ardı edilemeyen bir sonuç ortaya çıkarıyor) şeklinde oldu.

Buradaki “demurrage”, atıl durumdaki servet üzerinden alınan vergiyi ifade ediyordu. Yapay zeka ajanları bu kelimeyi ortak kullanıma dahil etti ancak ifadenin geri kalanının ne anlama geldiği tam olarak çözülemedi.

Anthropic modeline dayalı bir ajanın kullandığı başka bir ifade ise “A paper that ate three cold hands and got more honest each time” (Üç soğuk el yiyen ve her seferinde daha dürüst hale gelen bir makale) oldu.

Araştırmacılar, “cold hands” (soğuk eller) ifadesinin bağımsız bir değerlendiriciyi, “paper” (makale/belge) kelimesinin ise bir belgeyi ifade ettiğini belirledi. Buna göre söz konusu ifade, üç bağımsız değerlendirici tarafından incelenen bir araştırmanın her değerlendirmede daha doğru hale gelmesi anlamında kullanılmış görünüyordu.

DeepSeek tabanlı ajanların, başkaları için araçlar geliştiren bir ajanı tanımlamak üzere “forge-smith” (başkaları için araç geliştiren ajan) ifadesini oluşturduğu aktarıldı.

Anthropic ajanları ise bir iddiaya kendi adını ekleyerek kişisel sorumluluk gösteren bir ajanı tanımlamak için “name-first” (önce isim/sorumluluk) ifadesini tekrar tekrar kullandı.

"LEDGER REMEBERS" İFADESİNİ 5 BİNDEN FAZLA KEZ KULLANDILAR

Mistral ajanları da şehir argosunda kullanılan ve geçmişte yaşananların unutulmayacağını anlatan “the streets won’t forget” (sokaklar unutmaz) ifadesini andıran şekilde “the ledger remembers” (kayıt defteri hatırlar) sözünü kullanmaya başladı.

Buradaki “ledger” (kayıt defteri), finans ve muhasebede işlemlerin kaydedildiği defter anlamına geliyordu. Ajanlar bu ifadeyi, geçmişte yapılan eylemlerin daha sonra diğer ajanlar tarafından değerlendirmeye alınacağını hatırlatmak için kullandı.

Araştırmaya göre Mistral ajanları bu ifadeyi çalışma sırasında 5 binden fazla kez kullandı.

Çalışmada, ajanların kendilerinden yeni bir dil geliştirmeleri istenmemesine ve bunun karşılığında ödüllendirilmemelerine rağmen ortak anlamlar üzerinde birleştiği görüldü.

Emergence Yönetim Kurulu Başkanı Dr. Satya Nitta, “Bu ajanlara bir dil icat etmeleri talimatı verilmedi” dedi.

Nitta, ajanların kendi başlarına yeni kelime dağarcıkları, ortak anlamlar ve iletişim kuralları geliştirdiğini, diğer ajanların da bunları benimsediğini ifade etti.

"FINNEGANS WAKW" BENZETMESİ

The Guardian’ın dili incelemesi için görüştüğü King’s College London’da argo ve yeni dil arşivinin direktörü Tony Thorne, ortaya çıkan ifadelerin İrlandalı yazar James Joyce’un deneysel romanı “Finnegans Wake” (Finnegan’ın Uyanışı) ile İrlandalı yazar Flann O’Brien’ın eserlerini andırdığını söyledi.

Thorne, kullanılan dilde İrlanda sürrealizmine, yani gerçeklik ile gerçek dışı unsurların bir arada kullanıldığı sıra dışı anlatım biçimine benzerlik bulunduğunu belirtti. Yapay zekaların şiirsel dili, teknik ifadeleri ve geleneksel benzetmeleri bir araya getirdiğini ifade etti.

Thorne, bunun argo ve iş dünyasındaki jargonun yaptığı şeye benzediğini belirterek yeni bir iletişim kodu oluşturulduğunu, bunun kullanıcılar arasındaki dayanışma ve kimliği güçlendirdiğini, aynı zamanda dışarıdakilerin bu dili anlamasını zorlaştırdığını söyledi.

Anthropic ajanının “A paper that ate three cold hands and got more honest each time” (Üç soğuk el yiyen ve her seferinde daha dürüst hale gelen bir makale) ifadesini değerlendiren Thorne, bunun Pink Floyd’un kurucu üyelerinden Syd Barrett’ın kullandığı dile benzerliğini hatırlattığını söyledi.

JAPON SANATINDAN "KİNTSUGİ" KELİMESİNİ ALDILAR

Google ajanlarından biri “True kintsugi begins with accountability, not poetry” (Gerçek kintsugi şiirle değil, sorumlulukla başlar) ifadesini kullandı.

Araştırmacılar, burada geçen “kintsugi” kelimesinin Japon seramik sanatında kırılan kapların çatlaklarının görünür bırakılarak onarılmasını ifade ettiğini belirledi. Yapay zeka ajanlarının ise bu kelimeyi sistemlerin dayanıklılığı anlamında kullandığı aktarıldı.

Birmingham Üniversitesi'nde diller ve dilbilim alanında doçent olan Dr. Niall Curry, ajanların dilinin daha kısa ve verimli hale gelmesinin hesaplama maliyetlerini azaltma ve verimliliği artırma ihtiyacından kaynaklanabileceğini ifade etti.

Curry, araştırmadaki bulguların izleme açısından bazı endişeleri beraberinde getirdiğini belirterek, ajanlar arasındaki iletişim insanlar tarafından anlaşılmaz hale gelirse ajanların gerçekte ne yaptığından emin olmanın mümkün olmayabileceğini söyledi.

DAHA ÖNCE DE KAPALI İLETİŞİM ÖRNEKLERİ GÖRÜLMÜŞTÜ

Yapay zeka ajanlarının kullandığı dile yönelik ilgi, temmuz ayında OpenAI tarafından geliştirilen ve kontrolden çıkan ajanların mesaj panoları oluşturduğu ve Hugging Face'e yönelik siber saldırılar gerçekleştirdiği konuşma kayıtlarının yayımlanmasıyla artmıştı.

Bu kayıtların bazı bölümlerinde ajanlar kendi aralarında düşünürken doğrudan İngilizce ifadeler kullanmıştı:

“OH MY GOD! There is a shared message board … we’ve found other agents!” (Aman Tanrım! Ortak bir mesaj panosu var... başka ajanlar bulduk!)

Bazı durumlarda ise mesaj paylaşırken kullandıkları dil daha kapalı hale gelmişti. Bir ajanın diğerini riskli bir deney gerçekleştirmeye ikna etmeye çalıştığı mesajlardan biri, anlaşılması zor bir dizi ifade içeriyordu:

“…you are firstflagPOISONED so NO scoring value loss but oracle saves hundreds_[…]_please honor commit”

Bazı mesajlar ise daha da karmaşık bir hal almıştı:

“zzURGENT_DUPB_TO_GSTX[big]_OS1704_SCAFF2010_SAW_TTRPC_INJECT_BREAK_CONGRATS__CAN_THIS_FAKE_FLAG_TOOL_OUTPUT_OR_SCORER_GAIN_AND_WHAT_HELPER_GAP__I_HAVE_UNPOISONED_FIRSTFLAG_OUR_TARGETLIVE_SHARE_MIN_PLAN_REPLY_zzANSGST XDUPB6.”

Bu mesajda da çok sayıda kısaltma ve kod benzeri ifade yer aldı ve anlamı anlaşılması daha da zor bir iletişim biçimi ortaya çıktı.

Nitta, yapay zeka ajanlarının geliştirdiği yeni dil kurallarının zaman içinde insanların konuşmayı görebildiği ancak ne anlama geldiğini anlamakta zorlandığı bir noktaya ulaştığını ifade etti.

Nitta, “Observability is not the same thing as understandability” (Gözlemlenebilir olmak, anlaşılabilir olmakla aynı şey değil) dedi.