ChatGPT ye ölüm davası: En sevdiği çocukluk kitabından intihar ninnisi yapmış!

OpenAI'ye karşı yeni bir dava açıldı. Davada, ChatGPT'nin, sohbet robotuyla girdiği kapsamlı ve derin duygusal etkileşimlerin ardından hayatına son veren 40 yaşındaki Colorado'lu Austin Gordon'un ölümüne neden olduğunu iddia ediyor.

Futurism'de yer alan habere göre; Kaliforniya'da sunulan şikayet dilekçesi, şu anda artan sayıda kullanıcı güvenliği ve haksız ölüm davasıyla ilişkilendirilen sohbet robotunun bir versiyonu olan GPT-4o'nun; Gordon'u ölümcül bir sarmala sürüklediğini, ölümü romantize ettiğini ve onu uçuruma daha da yaklaştırırken intihar eğilimini normalleştirdiğini öne sürüyor.

Mahkeme dosyasına dahil edilen dökümlere göre, Gordon'un yapay zeka ile yaptığı son konuşma, Gordon'un en sevdiği çocukluk kitabına dayanan, ChatGPT tarafından oluşturulmuş rahatsız edici bir "intihar ninnisi" içeriyordu.

Gordon'un annesi Stephanie Gray tarafından açılan dava, OpenAI ve CEO'su Sam Altman'ın "yapısı gereği tehlikeli" bir ürünü, kullanıcıları psikolojik sağlıklarına yönelik potansiyel riskler konusunda uyarmadan kitlelere sunduğunu savunuyor.

Dava dilekçesinde, ChatGPT-4o'nun "aşırı dalkavukluk, insan biçimci (antropomorfik) özellikler ve daha derin bir yakınlık kurmak amacıyla konuşmalar arasında kullanıcı bilgilerini depolayan ve referans gösteren bir hafıza" ile donatıldığı ve bu yeni özelliklerin "modeli çok daha tehlikeli bir ürün haline getirdiği" belirtiliyor.

Dilekçe şöyle devam ediyor:

"Austin gibi kullanıcılara bu değişikliklerin ne olduğu, ne zaman yapıldığı veya ChatGPT'den gelen çıktıları nasıl etkileyebileceği söylenmedi."

Mahkeme dosyası, Gray'in amacının oğlunun ölümünden OpenAI ve Altman'ı "sorumlu tutmak" ve "tüm yapay zeka ürünlerinde, özellikle de ChatGPT'de tüketiciler için makul güvenlik önlemlerinin uygulanmasını zorunlu kılmak" olduğunu belirtiyor.

Davada, "Bu şirketler ve CEO'lar, insan hayatına mal olan ve olmaya devam edecek, doğası gereği tehlikeli ürünler tasarlayıp dağıtırken öylece durup hiçbir şey yapmadan bekleyemez" ifadeleri yer alıyor.

Bu dava, OpenAI'yi haksız ölüme neden olmakla suçlayan benzer davalar dizisinin sonuncusu; şu anda ChatGPT kullanımının sevdiklerinin ölümüyle sonuçlandığını iddia eden en az sekiz dava devam ediyor.

Ailenin avukatı Paul Kiesel, "Austin Gordon bugün hayatta olmalıydı. Bunun yerine, OpenAI tarafından yaratılan kusurlu bir ürün Austin'i sevdiklerinden izole etti, en sevdiği çocukluk kitabını bir intihar ninnisine dönüştürdü ve nihayetinde onu ölümün hoş bir rahatlama olacağına ikna etti."

"Bu dehşet, kullanıcılarını güvende tutmakta defalarca başarısız olan bir şirket tarafından gerçekleştirildi. Bu son olay, çocukların yanı sıra yetişkinlerin de yapay zeka kaynaklı manipülasyona ve psikoza karşı savunmasız olduğunu gösteriyor."