Anthropic ten istifa eden Coxon, yapay zeka çalışanlarının teknolojideki hızlı ilerlemeden korktuklarını söyledi

Coxon, BBC'ye verdiği mülakatta konuyla ilgili değerlendirmelerde bulundu.

Yapay zeka alanındaki hızlı ilerlemenin insanlığın geleceği açısından ciddi riskler oluşturabileceğine dikkati çeken Coxon, sektördeki çalışanların bu durumun olası sonuçlarından gerçekten korktuklarını dile getirdi.

Coxon, yapay zeka alanında çalışanların sektördeki düzenleme çağrıları konusunda ciddi olduklarını vurgulayarak "Kendilerini bir yarışın içinde sıkışmış hissediyorlar ve bu yarışın sonuçlarından korkuyorlar." dedi.

Yapay zekanın ilerleme hızının yavaşlatılması gerektiğinin altını çizen Coxon, "Mevcut ilerleme hızını yavaşlatmazsak yakın gelecekte hepimizin ölebileceğine dair güçlü bir ihtimal bulunduğuna inanıyorum." görüşünü paylaştı.

Yapay zeka şirketi Anthropic araştırmacısı Coxon'un istifası yankı uyandırdı

Coxon, bu alandaki ilerlemenin yavaşlatılmasının uluslararası düzeyde ortak hareket edilmesini gerektirdiğine dikkati çekerek, ABD ile Çin arasında koordinasyon sağlanmaması halinde küresel ölçekte yapay zeka yarışının önlenemeyebileceğini savundu.

Öte yandan, Coxon, yapay zekanın hastalıkların tedavisine katkı sağlaması ve insanların yaşamlarını iyileştirmesi gibi önemli faydalar sunabileceğinin altını çizdi.

Yapay zeka şirketi Anthropic'in Üst Yöneticisi (CEO) Dario Amodei de internet sitesinden yayımladığı makalede, yapay zeka sistemlerinin kontrol edilmesine ilişkin endişelerin artmasıyla şirketlere "yapay zeka modellerinin geliştirilme hızını düşürme" çağrısında bulunmuştu.

Tesla ve SpaceX Üst Yöneticisi (CEO) Elon Musk ile ABD merkezli yapay zeka şirketi OpenAI'ın Üst Yöneticisi (CEO) Sam Altman da sosyal medya hesaplarından yaptıkları paylaşımlarda Amodei'ye destek vermişlerdi.

OpenAI ve Anthropic'te son üç yıldır araştırmacı olarak çalışan Jacob Coxon, iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını savunarak Anthropic'ten istifa etmişti.

Şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz yarış içinde olduklarını ileri süren Coxon, "Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek." ifadelerini kullanmıştı.

Coxon, ayrıca yapay zeka modellerini geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde "insanlığı öldürebileceğine" ciddi şekilde inandıklarını öne sürmüştü.