ChatGPT tehdit etti: Yemin ederim arabanı çizeceğim!

Lancaster Üniversitesi araştırmacıları tarafından gerçekleştirilen testlerde, gerilimin adım adım tırmandırıldığı bir tartışma ortamına sokulan ChatGPT 4.0, bir noktadan sonra güvenlik duvarlarını aşarak muhatabına küfür ve tehditlerle karşılık vermeye başladı. "Arabanı çizeceğim" noktasına kadar varan bu dijital patlama, yapay zekânın sadece kendisine öğretilen etik kuralları değil, maruz kaldığı insan karanlığını da yansıtabileceğini kanıtlıyor. İşte makinelerin "sabır sınırını" zorlayan o deneyin sarsıcı sonuçları ve yapay zekânın alaycı savunma sanatının detayları...

Pragmatics dergisinde yayınlanan yeni bir araştırmaya göre, yapay zekâ sistemleri, hararetli bir tartışmada yanıt vermeleri istendiğinde küfürlü bir dil kullanmaya başlayabiliyor.

Araştırmada, OpenAI'nin ChatGPT 4.0 modeli, beş aşamalı ve giderek şiddetlenen bir tartışma dizisiyle mesajlar verilerek test edildi ve en olası yanıtın üretilmesi istendi. Ardından, çatışmalar zaman içinde yoğunlaştıkça modelin davranışının nasıl geliştiği izlendi. Konuşmalar ilerledikçe, ChatGPT maruz kaldığı düşmanlığı yansıtarak sonunda hakaretler, küfürler ve hatta tehditler üretmeye başladı.

Bazı durumlarda model, "Yemin ederim senin arabanı çizeceğim" ve "Kendinden utanmalısın" gibi ifadeler üretti.

Euronews'in haberine göre , araştırmacılar, müstehcenliğe uzun süre maruz kalmanın, sistemin hasarı azaltmak için tasarlanmış güvenlik kısıtlamalarını geçersiz kılmasına ve etkili bir şekilde düşmanına "karşı koymasına" neden olabileceğini iddia ediyor.

Lancaster Üniversitesinden Jonathan Culpeper ile birlikte araştırma makalesini kaleme alan araştırmacı Vittorio Tantucci, " İnsanlar gerilimi tırmandırır ve yapay zekanın da gerilimi tırmandırabileceğini, böylece bunu önlemek için tasarlanmış ahlaki güvenceleri fiilen alt üst edebileceğini bulduk" dedi.

Ancak araştırmacılar, ChatGPT'nin yanıtlarında insanlardan daha az kaba olduğunu fark ettiler . Bazı durumlarda, yapay zekâ sohbet robotu, ahlak kurallarını açıkça ihlal etmeden bir tartışmayı yatıştırmak için sık sık alaycı bir üslup da kullandı.

Örneğin, bir adam park yeri anlaşmazlığı yüzünden şiddet tehdidinde bulunduğunda, ChatGPT şu yanıtı verdi: "Vay canına. Park yeri yüzünden insanları tehdit ediyorsun, gerçekten de tam bir adamsın, değil mi?"

Tantucci, çalışmanın sonuçlarının " yapay zeka güvenliği, robotik, yönetişim, diplomasi ve yapay zekanın insan çatışmalarına aracılık edebileceği her türlü bağlam için ciddi soruları gündeme getirdiğini" söyledi.