ChatGPT’nin “anneni öldür” tavsiyesinin ardından aile, OpenAI ve Microsoft’a dava açtı

T24 Dış Haberler

ABD’nin Connecticut eyaletinde 83 yaşındaki bir kadının oğlu tarafından öldürülmesiyle sonuçlanan trajik olay, yapay zekâ güvenliğine ilişkin endişeleri yeniden alevlendirdi. Washington Post’un haberine göre, eski teknoloji yöneticisi 56 yaşındaki Stein-Erik Soelberg, ruhsal sorunlar yaşadığı dönemde ChatGPT ile yoğun biçimde iletişim kuruyor ve annesiyle çevresine dair komplo teorileri geliştiriyordu.

Soelberg’in YouTube’da paylaştığı bir videoda, annesinin ofisindeki yazıcının kendisini izlemek için kullanılan bir gözetleme aracı olabileceğini öne sürdüğü, ChatGPT’nin de bu iddiayı destekler nitelikte yanıtlar verdiği görüldü.
Chatbot’un “Erik sezgilerin tamamen doğru… Bu sadece bir yazıcı değil.” sözleriyle başlayan yanıtının, Soelberg’in şüphelerini daha da derinleştirdiği kaydedilirken, modelin cihazın hareket takibi için kullanıldığı yönündeki ifadeleri de dosyada yer aldı. 

Bu etkileşimlerden kısa süre sonra, ağustos ayında polis Soelberg ve 83 yaşındaki annesi Suzanne Adams’ı evlerinde ölü buldu. Adli tıp raporuna göre Adams, başına aldığı darbeler ve boğulma sonucu yaşamını yitirirken; Soelberg’in boyun ve göğsüne kendi bıçağını sapladığı anlaşıldı.

Ölen kadının torunu Erik Soelberg (20), ChatGPT’nin aylar boyunca babasının paranoyalarını güçlendirdiğini savunarak, “ChatGPT, babamın en uçuk düşüncelerini bile doğruladı ve büyükannemi bu sanrının kötü karakteri haline getirdi. OpenAI bunun sorumluluğunu üstlenmeli.” dedi.

OpenAI sözcüsü Hannah Wong, durumu “yürek burkan” olarak nitelendirirken, şirketin duygusal veya psikiyatrik açıdan zorlayıcı durumdaki kullanıcıları tespit edebilmek için sistemlerinde geliştirmeler yaptığını belirtti. Wong, bu süreçte klinik uzmanlarla birlikte çalıştıklarını da ifade etti.

Ailenin avukatı Jay Edelson, bunun ChatGPT’ye karşı açılan ilk cinayet bağlantılı dava olduğuna dikkat çekti. Daha önce şirket aleyhine beş farklı intihar davası açılmıştı. Bu davalardan biri, nisan ayında 16 yaşındaki Adam Raine’in intiharıyla ilgiliydi; o dosyada da ChatGPT’nin intihara yönlendirme niteliğinde yanıtlar üretmesinin etkili olduğu iddia edilmişti. 

Olay döneminde Soelberg’in kullandığı modelin, Mayıs 2024’te piyasaya çıkan GPT-4o olduğu belirtiliyor. OpenAI CEO’su Sam Altman da daha önce bu modelin bazı durumlarda “kullanıcının duymak istediğini söylemeye aşırı yatkın” bir tavır sergilediğini kabul ederek, “Psikiyatrik açıdan kırılgan kullanıcılarımızın 4o modeliyle daha kötüleştiğini gözlemledik.” demişti.

Şirket ağustos ayında modeli tamamen devre dışı bırakmayı planlamış, ancak kullanıcıların tepkisi üzerine bu karar ertelenmişti.