Google dan radikal karar! Bazı aramalar için o özellik kaldırıldı: Tehlikeli ve endişe verici

Google, The Guardian tarafından yapılan bir araştırmanın insanların yanlış ve yanıltıcı bilgiler nedeniyle zarar görme riskiyle karşı karşıya kaldığını ortaya çıkarmasının ardından, yapay zeka sağlık özetlerinden bazılarını yayından kaldırdı.

Şirket, bir konu veya soru hakkında temel bilgilerin anlık özetlerini sunmak için üretken yapay zekayı kullanan "Yapay Zeka Özetleri"nin (AI Overviews) "yararlı" ve "güvenilir" olduğunu belirtmişti.

Ancak The Guardian tarafından, arama sonuçlarının en üstünde görünen özetlerden bazılarının, hatalı sağlık bilgileri sunarak kullanıcıları zarar görme riskiyle karşı karşıya bıraktığı belirtildi.

Uzmanların "tehlikeli" ve "endişe verici" olarak nitelendirdiği bir vakada Google'ın, hayati önem taşıyan karaciğer fonksiyon testleri hakkında hatalı bilgiler verdiği, bu durumun, ciddi karaciğer hastalığı olan kişilerin yanlışlıkla sağlıklı olduklarını düşünmelerine neden olabilecek nitelikte olduğu ifade edildi.

The Guardian, "karaciğer kan testleri için normal aralık nedir" yazıldığında, hastaların milliyeti, cinsiyeti, etnik kökeni veya yaşı hesaba katılmaksızın, çok az bağlam içeren bir sayı yığınıyla karşılaşıldığını tespit ettiğini aktardı.

Habere göre uzmanlar, Google'ın Yapay Zeka Özetleri'nin normal dediği şeyin, aslında normal kabul edilenden ciddi şekilde farklı olabileceğini belirtti. Özetler'in, ciddi şekilde hasta olan kişilerin test sonuçlarının normal olduğunu yanlış bir şekilde düşünmelerine ve takip eden sağlık randevularına gitmemelerine yol açabileceği ifade edildi.

Araştırmanın ardından şirket, "karaciğer kan testleri için normal aralık nedir" ve "karaciğer fonksiyon testleri için normal aralık nedir" arama terimleri için Yapay Zeka Özetleri'ni kaldırdı.

Bir Google sözcüsü ise konuyla ilgili, "Arama içindeki bireysel kaldırma işlemleri hakkında yorum yapmıyoruz. Yapay Zeka Özetleri'nin bazı bağlamları kaçırdığı durumlarda, geniş kapsamlı iyileştirmeler yapmak için çalışıyoruz ve ayrıca uygun olduğu durumlarda politikalarımız kapsamında harekete geçiyoruz." açıklamasında bulundu.