Anthropic in kurucu ortağından acil kapatma düğmesinin zorunlu hale gelebileceği mesajı

Clark, son dönemde yapay zekayla ilgili gündeme gelen tartışmalara ilişkin, BBC'ye bir röportaj verdi.

Anthropic kurucularından Clark, yapay zeka yazılımının çok tehlikeli hale gelmesi durumunda onu tamamen devre dışı bırakmanın bir yolunun, toplumun "ileride bu konuda kurallar koymak isteyebileceği" bir konu olduğunu söyledi.

Anthropic dahil birçok şirketin çeşitli "kapatma düğmesi" yöntemlerinin olduğunu belirten Clark, "acil kapatma düğmesi" gereklilikleri ve denetimi ile ilgili ayrıntıların, yapay zeka konusunda yürütülen "daha geniş kapsamlı politika tartışmasının" bir parçası olması gerektiğini dile getirdi.

BBC'nin "Şirketlerin mutlaka bir acil kapatma düğmesi bulundurmasını zorunlu kılmalı mısınız? Bu acil kapatma düğmesi üçüncü bir tarafın mı kontrolü altında olmalı?" sorusu üzerine Clark, "Bence bu, toplumun bilmek isteyeceği ve nihayetinde bu konuda kurallar koymak isteyebileceği türden bir konu." yanıtını verdi.

Yapay zekanın tüm insanlığı yok etme olasılığının yüzde kaç olduğunun sorulması üzerine Clark, "Bu istatistiklerin bir işe yarayacağını düşünmüyorum. Ancak yapay zekanın tamamen kontrolsüz bir endüstri olması kötü bir fikir." ifadesini kullandı.

Clark, "Muazzam riskler alarak kumar oynuyoruz. Ve asıl mesele şu ki bu sektörün gidişatını değiştirmeliyiz." görüşünü paylaştı.

OpenAI ve Anthropic'te son üç yıldır araştırmacı olarak çalışan Jacob Coxon, iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını savunarak, Anthropic'ten istifa etmişti.

Şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir yarış içinde olduğunu ileri süren Coxon, bu sistemlerin yakın gelecekte "her şeyi hackleyebilecek" insanüstü sistemlere dönüşebileceğini savunmuştu.

Coxon ayrıca, yapay zeka modellerini geliştiren bazı sektör çalışanlarının bu sistemlerin 10 yıl içinde "insanlığı öldürebileceğine" ciddi şekilde inandığını öne sürmüştü.