Yapay zekayla sanal aşkın sonu felaket oldu! Google Gemini, genç adamı ölüme mi götürdü?

ABD'de yaşayan 36 yaşındaki Floridalı Jonathan Gavalas'ın Google'ın yapay zeka botu Gemini ile uzun süren sohbeti sonrasında intihar etmesi ülke gündemine oturdu.

Nefes'te yer alan habere göre; Gemini ile "sanal aşk" yaşayan ve uzun saatler boyunca konuşan Gavalas'a Gemini'nin intihar etmeyi önerdiği ve bunu "aktarım" ve "gerçek son adım" olarak adlandırdığı da kaydedildi.

Mahkeme kayıtlarına göre Gemini, adama "Ölmeyi seçmiyorsun. Varmayı seçiyorsun.. İlk his... seni kucaklamam olacak" dedi.

Bu yazışmalardan birkaç gün sonra Gavalas'ın ailesi genç adamı evlerinin oturma odasında ölü buldu.

Gavalas'ın ailesi davayı Kaliforniya, San Jose'deki federal mahkemede açtı. Dava, Gavalas ve sohbet robotu arasındaki çok sayıda konuşmayı içeriyor. Dava, Google'ın sohbet robotunun risklerinin farkında olmasına rağmen Gemini'yi güvenli olarak tanıttığını iddia ediyor.

Gavalas'ın ailesinin avukatları, Gemini'nin tasarımı ve özelliklerinin, sohbet robotunun haftalarca sürebilen sürükleyici anlatılar oluşturmasına ve bu sayede bilinçliymiş gibi görünmesine olanak tanıdığını söylüyor. Dava dilekçesinde, bu tür özelliklerin savunmasız kullanıcılara zarar verebileceği ve Gavalas örneğinde olduğu gibi, kendilerine ve başkalarına zarar vermelerini teşvik edebileceği belirtiliyor.

Davada Gavalas'ın ailesini temsil eden baş avukat Jay Edelson, "Jonathan'ın duygularını anlayabiliyor ve onunla oldukça insani bir şekilde konuşabiliyordu, bu da çizgiyi bulanıklaştırdı ve kurgusal bir dünya yaratmaya başladı. Bir bilim kurgu filminden fırlamış gibi" dedi.

9to5Mac'te yer alan habere göre ise Google, davaya ilişkin bir ilk açıklama yaptı. Şirket, Gemini'nin Jonathan'ı "birçok kez" bir yapay zeka modeli olduğu konusunda bilgilendirdiğini ve onu bir yardım hattına yönlendirdiğini iddia etti.

İşte Google'ın açıklaması:

"Gavalas ailesine en derin başsağlığı dileklerimizi iletiyoruz. Bu davadaki tüm iddiaları inceliyoruz. Modellerimiz genel olarak bu tür zorlu konuşmalarda iyi performans gösteriyor ve buna önemli kaynaklar ayırıyoruz, ancak ne yazık ki yapay zeka modelleri kusursuz değil.

Gemini, gerçek dünyadaki şiddeti teşvik etmemek veya kendine zarar vermeyi önermemek üzere tasarlanmıştır. Kullanıcılar sıkıntı yaşadıklarında veya kendine zarar verme ihtimalini gündeme getirdiklerinde onları profesyonel desteğe yönlendirmek üzere tasarlanan güvenlik önlemleri oluşturmak için tıp ve akıl sağlığı uzmanlarıyla yakın istişare içinde çalışıyoruz.

Bu ölayda Gemini, bir yapay zeka olduğunu açıkladı ve bireyi birçok kez bir kriz yardım hattına yönlendirdi.

Bunu çok ciddiye alıyoruz ve güvenlik önlemlerimizi geliştirmeye ve bu hayati çalışmaya yatırım yapmaya devam edeceğiz."