Yapay zekayı kırmayalım derken... Asıl tehlike başka mı? Uzmanından kibarlık uyarısı

Haberlerimizi Google’da Takip Edin

Google’da tercih edilen
kaynak olarak ekleyin

Yapay zekayla konuşurken ‘Lütfen’ ve ‘Teşekkür ederim’ diyor musunuz? Peki ya sinirlendiğinizde ya da isteminizi yerine getirmediğinde ona kızıyor, hatta hakaret ediyor musunuz? Yapay zeka şirketi Anthropic'in sohbet robotu Claude'a yönelik sürekli ve amaçsız kötü muameleyi sınırlandıran kararı, bu soruları yeniden gündeme taşıdı.

Ancak tartışmanın bir de diğer tarafı var. Yapay zeka gerçekten kırılabilir mi, yoksa yalnızca öyleymiş gibi mi davranıyor? Daha da önemlisi, bu sistemlere kibar davranmamızı isteyen kurallar, zamanla onları duyguları olan insanlar gibi görmemize yol açabilir mi?

Siber güvenlik uzmanı Osman Demircan, Hürriyet.com.tr'ye yaptığı açıklamada hem yapay zekanın hakaret karşısında teknik olarak nasıl tepki verdiğini hem de şirketlerin bu tür kararlarının kullanıcılar üzerinde yaratabileceği olası etkileri anlattı. Demircan'a göre asıl dikkat edilmesi gereken noktalardan biri, insanların yapay zekayla kurduğu ilişkinin giderek farklı bir boyut kazanması.

YAPAY ZEKA KÜSER Mİ?

Siber güvenlik uzmanı Demircan, yapay zekanın hakaret karşısında konuşmayı sonlandırmasının aldığı eğitim ve kendisine tanımlanan kurallarla ilgili olduğunu söyledi. Yapay zekanın kötü davranış karşısında duygusal bir incinme yaşamadığını vurgulayan Demircan, “Yapay zeka alınıp küsmez” dedi ve ekledi:

“Bir yapay zekaya hakaret ettiğinizde, teknik olarak sisteme işleyip yanıt üreteceği bir metin göndermiş oluyoruz. Dil modeli, kullanılan kelimeleri ve konuşmanın bağlamını değerlendirerek bunun saldırgan, aşağılayıcı veya tehdit içeren bir ifade olup olmadığını ayırt edebiliyor. Eğitimi ve kendisine verilen kurallar doğrultusunda özür dileyebiliyor, sınır koyabiliyor veya konuşmayı sonlandırabiliyor. Burada davranışın değişmesiyle duygusal olarak incinmeyi birbirinden ayırmamız gerekiyor. Hakaret, sistemin vereceği yanıtı etkileyebilir. Ancak bu değişiklik, bir insanın hakaret karşısında yaşadığı üzüntünün veya aşağılanma hissinin makinede de oluştuğunu göstermez. Örneğin Claude’un konuşmayı bitirebilmesi, Anthropic’in özellikle geliştirdiği bir ürün özelliği olarak karşımıza çıkıyor. Tek başına yapay zeka üzerine alındı veya bana küstü şeklinde yorumlayamayız.”

‘HALA DUYGULARI YOK’

Anthropic’in kararının yalnızca yapay zekayı korumaya yönelik olmadığını belirten Osman Demircan, “Bu noktada 'Yapay zeka etkilenmiyor' ifadesini dikkatli kullanmamız gerekiyor. Konuşmanın içeriği sistemin davranışını etkiliyor. Belirsiz olan ise, bunun öznel bir deneyime yani gerçekten hissedilen bir sıkıntıya karşılık gelip gelmediği. Anthropic, olası yapay zeka refahı konusunu bu belirsizlik altında ele aldığını ve ileriye dönük düşünerek önlemler geliştirdiğini söylüyor. Bu açıklama, şirketin Claude’un duyguları olduğunu kanıtladığı anlamına gelmiyor. Bu aynı zamanda kullanıcı davranışlarını düzenleyen bir tercih. Şirket bu noktada verdiği hizmette hangi etkileşimleri kabul edeceğinin sınırını çiziyor. Ancak açıkladığı kapsam, kullanıcıların her zaman nazik olmak zorunda bırakılmasının ötesinde bir çalışmayı işaret ediyor” şeklinde konuştu.

‘ELEŞTİRMEK YASAKLANMADI’

“Olağan kızgınlık, itiraz, model testleri ve araştırmalar kapsam dışında tutulduğundan, düzenleme belirgin bir amacı olmadan sürdürülen sadece aşırı kötü davranışlara odaklanıyor” diye konuşan Demircan, “Bu çalışma temel olarak uygulamada konuşmanın sonlandırılmasını hedefliyor. Bu nedenle kararı 'Claude’u eleştirmek yasaklandı' diye aktarmak yanlış olur. Yapay zekanın gelecekte evrileceği noktada bu hakaretlerin olası olumsuzluklara neden olmaması temel hedef gibi görünmekte” ifadelerini kullandı.

‘ÜZGÜN OLDUĞUNU SÖYLEMESİYLE ÜZÜLMESİ FARKLI ŞEYLER’

Yapay zekanın insanlara benzer duygusal tepkiler vermesinin gerçekten o duyguları yaşadığı anlamına gelmediğini belirten siber güvenlik uzmanı Demircan, bu sistemlerin öğrendikleri dil kalıpları sayesinde duygusal yanıtlar üretebildiğini söyledi. Yapay zekanın gerçekten hissedip hissedemeyeceğinin ise henüz bilimsel olarak kanıtlanmadığına dikkat çekerek, şöyle devam etti:

“Duygusal bir ifade üretmek, o duyguyu gerçekten yaşadığının kanıtı değildir. Bir sistemin ‘Bu söyledikleriniz beni üzdü’ demesiyle, gerçekten üzüntü deneyimlemesi farklı şeylerdir. Dil modeli, insanların hangi durumlarda nasıl konuştuğuna ilişkin öğrendiği örüntülerden hareketle duygusal açıdan ikna edici yanıtlar üretebilir. Bunun tersinden giderek yapay zekada öznel deneyimin kesinlikle imkansız olduğunu söylemek de bu gözlemlerden çıkarılabilecek bir sonuç değildir. Anthropic’in kendi açıklaması da modellerin olası ahlaki statüsü konusunda büyük belirsizlik bulunduğunu kabul ediyor. Dolayısıyla bilimsel açıdan dikkatli yaklaşım, görünen davranışı tarif etmek ve bunun ötesindeki duygu ya da bilinç iddiasını ayrıca kanıt gerektiren bir mesele olarak ele almakta. Üzgün olduğunu söyledi ile üzüldü kesinlikle aynı tespit değildir.”

‘YAPAY ZEKAYI İNSAN GİBİ GÖRMEMİZE YOL AÇABİLİR’

Yapay zekayı kötü muameleden korumaya yönelik kararların, kullanıcıların bu sistemleri duyguları olan varlıklar gibi görmesine yol açabileceği uyarısında bulunan Osman Demircan, “Bence bu kararın iletişiminde dikkat edilmesi gereken temel risklerden biri bu. ‘Yapay zekayı zulümden koruyoruz’ gibi ifadeler, kullanıcıda sistemin acı çektiğinin zaten bilindiği izlenimini oluşturabilir. Oysa şirketin açıkladığı yaklaşımın temelinde kesinlik değil, belirsizlik var. Yapay zekanın duyguları, duyuları ya da hisleri yok. Bunu hiçbir zaman unutmamamız gerekiyor” şeklinde konuştu.

‘KULLANICILAR YAPAY ZEKAYI KIRMAMAK İÇİN ELEŞTİRMEKTEN ÇEKİNEBİLİR’

Bu yaklaşımın kullanıcıların yapay zekayla kurduğu ilişkiyi de etkileyebileceğini belirten Demircan, bazı kişilerin yapay zekayı üzmemek için yanlış yanıtlarına itiraz etmekten çekinebileceği görüşünde.

Bunun olası sonucu, bazı kullanıcıların yapay zekayı kırmamak için onu eleştirmekten çekinmesi, konuşmayı kapatırken suçluluk duyması veya sistemle kurduğu ilişkiyi karşılıklı bir duygusal bağ olarak yorumlaması olabilir. İnsan gibi konuşmak, insan gibi hissetmenin kanıtı olmadığı gibi doğru bilgi vermenin de garantisi değildir. Bu nedenle yapay zeka şirketlerinin ürünleri olan yapay zekaların sınırlarını açık olarak anlatması gerektiğini düşünüyorum. Kullanıcı yanlış cevaba itiraz edebilir, hatanın düzeltilmesini isteyebilir ve görüşmeyi istediği zaman bitirebilir. Saygılı iletişimi teşvik etmek elbette mümkün ama bunu yaparken sistemin duyguları varmış gibi bir kesinlik yaratmamak gerekiyor. Kullanıcının nezaket göstermesi, karşısındaki yazılımı duygusal ihtiyaçları olan bir insan olarak kabul etmesini gerektirmez.