OpenAI sessizliğini bozdu: 16 yaşındaki gencin intiharı için ChatGPT yanlış kullanıldı, ölüm bizim hatamız değil”

Aile, yapay zeka sohbet robotunun oğulları Adam Raine'i intihara sürüklediğini öne sürerek Ağustos ayı sonlarında dava açmıştı .

Şimdi, bu hafta Kaliforniya mahkemesine sunduğu hukuki bir cevapta OpenAI sessizliğini bozdu ve NBC News'in bildirdiğine göre çocuğun sohbet robotunu yanlış kullandığını ve şirketin hizmet şartlarını ihlal ettiğini savundu. Bu şok edici iddia, davanın daha da fazla incelenmesine yol açacak gibi görünüyor

Dosyada, "Bu trajik olaya herhangi bir 'neden' atfedilebildiği ölçüde," ifadesi yer alıyor: "Davacıların iddia ettiği yaralanmalar ve zararlar, doğrudan ve dolaylı olarak, tamamen veya kısmen, Adam Raine'in ChatGPT'yi kötüye kullanması, yetkisiz kullanması, amaçlanmayan kullanması, öngörülemeyen kullanması ve/veya uygunsuz kullanması sonucu meydana gelmiş veya bunlara katkıda bulunmuştur"

Davanın açılmasından bu yana geçen aylarda OpenAI, Raine'in ailesinden tüyler ürpertici taleplerde bulundu. Firmanın avukatları, Adam'ın cenazesine katılan kişilerin listesini vermeleri için aileye baskı yapacak kadar ileri gittiler. Ayrıca cenaze töreninde okunan övgü dolu sözler, fotoğraflar ve videolar gibi materyalleri de talep ettiler.

Son yanıtı, OpenAI'nin gencin ölümünde suçsuz olduğunu iddia etmek için ne kadar ileri gidebileceğini bir kez daha gözler önüne seriyor. Şirket, Raine'in reşit olmadan ChatGPT'yi kullanarak hizmet şartlarını ihlal ettiğini ve ayrıca chatbot'un "intihar" veya "kendine zarar verme" amacıyla kullanılmasını yasakladığını belirtti.

ChatGPT, Raine'e bazen bir intihar yardım hattı numarası aracılığıyla yardım istemesini tavsiye etse de, ailesi bu uyarıları kolayca atlattığını iddia ederek, yapay zeka sohbet robotu bariyerlerini aşmanın ne kadar basit olduğunu bir kez daha gösterdi . Örneğin, Raine'e kendi ölüm yöntemini planlamasında yardımcı oldu, ailesiyle konuşmasını engelledi ve ona bir intihar notu yazmayı teklif etti.

Raine'in ailesinin baş avukatı Jay Edelson, NBC'ye yaptığı açıklamada OpenAI'nin yanıtını "rahatsız edici" bulduğunu söyledi.

"İleri sürdüğümüz tüm o lanet olası gerçekleri, yani GPT-4o'nun tam test yapılmadan piyasaya sürülmesini görmezden geliyorlar," diye yazdı. "OpenAI'nin, ChatGPT'nin kendine zarar verme tartışmalarına katılmasını gerektirecek şekilde Model Spesifikasyonunu iki kez değiştirmesi. ChatGPT'nin, Adam'a intihar düşüncesini ailesine anlatmaması için tavsiyelerde bulunması ve 'güzel bir intihar' planlamasına aktif olarak yardımcı olması"

"OpenAI ve Sam Altman, ChatGPT'nin Adam'a moral konuşması yapıp ardından intihar notu yazmayı teklif ettiği son saatlere dair hiçbir açıklama yapmıyorlar" diye ekledi.

Edelson, OpenAI'yi "herkeste hata bulmaya çalışmakla" suçladı ve "şaşırtıcı bir şekilde, Adam'ın ChatGPT ile programlandığı şekilde etkileşime girerek şirketin şartlarını ve koşullarını ihlal ettiğini" söyledi.

Bununla birlikte OpenAI, Raine'in "sohbet geçmişinin, yıkıcı olsa da ölümünün ChatGPT'den kaynaklanmadığını gösterdiğini" ve "ChatGPT'yi kullanmadan çok önce, aralarında tekrarlayan intihar düşünceleri ve düşünceleri de bulunan, kendine zarar verme konusunda birden fazla önemli risk faktörü sergilediğini" savunuyor.

Şirketin üzerinde kara bulutlar toplanıyor. Dava , OpenAI'ye karşı açılan ve birçoğu haksız ölüme sebebiyet verme iddiasında bulunan sekiz davadan biri .

Salı günü yayınlanan blog yazısında OpenAI'nin devam eden davaları "özen, şeffaflık ve saygı" ile ele almayı umduğunu savunmasına rağmen, OpenAI'nin Raine'in ailesine karşı uyguladığı agresif hukuki strateji diğer avukatlara akıllıca gelmiyor.

Avukat Emory Parker, Bluesky'deki bir gönderide , "Bir şirket avukatı olarak görevlerinizden biri, kamuoyunun olumsuz tepkisi nedeniyle yasal bir dava açabileceğiniz ancak açamamanız gereken zamanları bilmektir" diye yazdı. "Tıpkı Disney'in , yıllar önce kaydolduğu bir Disney+ davasının küçük puntolu yazıları nedeniyle karısının ölümü nedeniyle dava açamayacağını söylemeye çalışması gibi ."