OpenAI itiraf etti: Kanada’daki okul katliamcısını tespit ettik ama bildirmedik

Dünyanın en büyük yapay zeka şirketi OpenAI, Kanada tarihinin en kanlı okul saldırılarından birini gerçekleştiren Jesse Van Rootselaar hakkında çarpıcı bir itirafta bulundu. Şirket, geçtiğimiz Haziran ayında 18 yaşındaki Rootselaar’ın hesabını, şiddet eylemlerine yönelik kötüye kullanım tespit ettiği için askıya aldığını duyurdu.

OpenAI tarafından yapılan açıklamada, o dönemde kullanıcının Kanada Kraliyet Atlı Polisi'ne (RCMP) bildirilip bildirilmemesinin değerlendirildiği ancak hesap etkinliğinin "acil ve somut bir fiziksel zarar riski" kriterlerini tam olarak karşılamadığına karar verildiği belirtildi. Şirket, olay anında güvenilir veya yakın bir saldırı planı tespit edemediklerini, bu nedenle polisle iletişime geçmediklerini savundu.

Geçtiğimiz hafta British Columbia eyaletinde gerçekleşen faciada Rootselaar; önce annesini ve üvey kardeşini, ardından bir okulu hedef alarak bir öğretmen yardımcısı ve yaşları 12 ile 13 arasında değişen 5 öğrenciyi katletmiş, ardından intihar etmişti. Katliamın gerçekleşmesinin ardından OpenAI, saldırganın ChatGPT kullanım geçmişine dair verileri yetkililerle paylaştığını ve soruşturmaya destek verdiklerini açıkladı.

Daha önce de psikolojik sorunları nedeniyle polisle temasları olduğu öğrenilen saldırganın yapay zeka üzerindeki faaliyetlerinin bildirilmemiş olması, teknoloji şirketlerinin kolluk kuvvetleriyle bilgi paylaşımı konusundaki sorumluluklarını yeniden tartışmaya açtı. Kanada tarihinin 2020'den bu yana en ölümlü saldırısı olarak kayıtlara geçen facianın kesin nedeni ise henüz netlik kazanmadı.