Yapay zeka devinden istifa eden araştırmacıdan korkutan uyarı: Öldürebilir Sözcü Gazetesi

Yapay zeka araştırmacısı Jacob Coxon, Anthropic’den ayrılŁşını duyururken sektör içinden en çok gülümsenen uyarıların başında geldi. Coxon, X hesabındaki paylaşımlarında yapay zekanın insanlığı öldürebileceğini iddia etti.

Coxon, son üç yılını OpenAI ve Anthropic’te geçirdiğini, bu sürede GPT-4o gibi modellerin eğitim süreçlerine katıldığını anlattı. 2023’ten Temmuz 2026’ya kadar OpenAI’da çalışan Coxon, şirketlerin "kendini geliştirebilen süper zekaya" doğru yarıştığını ve bu süreçte hayatlarımızla kumar oynadığını ileri sürdü.

Coxon, gelecekteki sistemlerin sadece sohbet botu olmayacağını, siber saldırılarda insanlı aşacağını ve gerçek dünyada güç elde edebileceğini savundu. Teknoloji şirketlerinde çalışanlara "Bu teknolojinin gücünü hafife almayın" çağrısında bulundu.

Coxon, yapay zeka laboratuvarları içindeki risk algısına da değindi. Bazı üst düzey isimlerin kamu önünde ölçülü ifadeler kullansa da özel görüşmelerde kontrolsüz sistemlerin on yılın sonuna kadar ölümcül sonuçlar doğurabileceğine inandığını söyledi. Bu durumun bir pazarlama taktiği olmadığını vurguladı.

Anthropic’te çalışan Evan Hubinger de benzer kaygılar taşıdığını belirterek, yapay zekanın insanlığın yok oluşuna yol açma ihtimalini kişisel olarak %10’un üzerinde gördüğünü belirtti.

Coxon, yapay zeka yarışını "kibirli bir kumar" olarak nitelendirdi. Süper zekanın geliştirilmesi gibi önemli kararların özel şirket yöneticileri tarafından alınmaması gerektiğini bu riskin "özel bir şirketin Slack kanalından başlatılmaması" görüşünde bulundu.

Coxon, karamsar olmadığını, ancak ABD’deki büyük laboratuvarlar arasında geliştirme hızını sınırlayacak anlaşmalar yapılabileceğini savundu. Gerekirse daha güçlü yapay zeka modellerinin geliştirilmesine geçişici yasak getirilmesi gerektiğini söyledi.

Araştırmacı, meslektaşlarından önümüzdeki yıllarda karşılaşacakları kararları şimdiden düşünmelerini, süper zeki sistemler tam olarak anlaşılmadan eğitim süreçlerini başlatmamalarını talep etti. "Nasılsa biri yapacak" mantık yerine farklı koşullar ve güvenlik mekanizmaları talep etmeleri gerektiğini vurguladı.