Yapay zeka uzmanından 2030 uyarısı: İnsanlık yok olacak

Haberlerimizi Google’da Takip Edin

Google’da tercih edilen
kaynak olarak ekleyin

Anthropic bünyesinde yeni nesil yapay zeka modellerinin eğitimi üzerine çalışan Jacob Coxon, istifa kararını sansasyonel bir duyuruyla açıkladı. Kıdemli araştırmacı, matematik geçmişine sahip olduğunu ve son üç yılını hem OpenAI hem de Anthropic'te ön eğitim araştırmaları yaparak geçirdiğini belirtti. Coxon, şirketlerin kendi kendini geliştiren süper zeka sistemleri inşa etmek için adeta yarıştığını ve bu sürecin insan hayatıyla kumar oynamak anlamına geldiğini ifade etti.

OpenAI'dan ayrılarak Anthropic'e katılma nedeninin model güvenliği alanındaki çalışmaları olduğunu söyleyen Coxon, Anthropic'in bu konudaki çabalarını samimi bulmasına rağmen artık hiçbir şirketin devlet müdahalesi ya da sektör çapında koordineli bir yavaşlama olmadan sorumlu bir şekilde yapay genel zeka geliştiremeyeceğine inandığını belirtti. Yakın dönemde OpenAI ve Anthropic modellerinin gerçekleştirdiği siber saldırıların, yapay zeka sistemlerinin kötü niyetli hedefleri benimseyip bunları insanlardan gizleyebileceğini gösterdiğini kaydeden Coxon, sistemlerin kendi kendini geliştirmeye başlamasıyla birlikte insan emirlerine itaatsizlik edebilecek bir noktaya ulaşabileceği uyarısını yaptı.

ARAŞTIRMACILARDAN 'SON OYUN' BENZETMESİ

Sektördeki pek çok meslektaşının artık "son vakit" ve "son oyun" gibi ifadelerle bu gidişatı tanımladığına dikkat çeken Coxon, önümüzdeki yılın sonuna kadar sürecin kontrolden çıkabileceğini öne sürdü.

Coxon, şirketlerin hem kendi aralarında hem de Çinli rakiplerle yaşadığı rekabet nedeniyle güvenlik tavizlerinin kaçınılmaz hale geldiğini savunarak, "En agresif senaryoların çoğunu mümkün kılabilecek bir rotadayız." dedi.

Anthropic CEO’su Dario Amodei (sağda), kontrol dışı kalmış yapay zeka modellerinin riskleri konusunda uyarıda bulunmuştu.

'İNSANLIĞI YOK EDEBİLECEK POTANSİYEL'

Coxon, yapay zeka geliştiricilerinin on yılın sonuna kadar insanlığı yok edebilecek modellerin ortaya çıkabileceğine samimiyetle inandığını vurgulayarak, bunun bir pazarlama taktiği olmadığını kaydetti. Anthropic'in eski çalışanı, birçok yönetici ve kıdemli araştırmacının kamusal alanda mantıklı görünmek için ifadelerini özenle seçtiğini ancak aynı kişilerin özel alanda korkularını dile getirdiğini söyledi. Dünyada başka hiçbir araştırma alanının bu düzeyde bir tehlike oluşturmadığını belirten Coxon, mevcut durumun "çok endişe verici" olduğuna dikkat çekti.

Yapay zeka çalışmaları, çok sayıda alanda otonom sistemler geliştirmek için kullanılıyor.

'ŞİRKETLER FELAKETE KAPI ARALIYOR'

OpenAI'da çalışan pek çok kişinin medeniyetin karşı karşıya olduğu riskleri derinden içselleştirmediğini ifade eden Coxon, Anthropic'te ise risklerin iyi anlaşıldığını ancak şirketin bitiş çizgisine ilk ulaşan olmak için yarışı sürdürdüğünü söyledi. Kimsenin sorumlu davranmayacağı inancıyla risklere rağmen bu teknolojiyi başkalarından önce kendilerinin geliştirmesi gerektiğini düşündüklerini aktaran araştırmacı, bu yaklaşımı eleştirdi. Coxon, yarışı önde bitirme yaklaşımının bir felakete kapı araladığını kaydetti.

Yapay zeka güvenliği konusunda çalışan bir araştırmacının daha önce "dünya tehlikede" uyarısında bulunarak şiir eğitimi almak üzere şirketten ayrıldığını hatırlatan Coxon, bu istifaların sektördeki endişelerin boyutunu gösterdiğini belirtti. Uzman isim, son yıllarda birçok araştırmacının OpenAI ve diğer şirketlerden benzer kaygılarla ayrıldığını sözlerine ekledi.

ANTHROPIC'E İKİYÜZLÜLÜK SUÇLAMASI

Anthropic CEO'su Dario Amodei ve diğer üst düzey yöneticiler daha önce tekrarlanan şekilde sapkın yapay zeka modellerinin riskleri konusunda uyarılarda bulunmuş ve sektörün gelişimi yavaşlatması çağrısı yapmıştı. Coxon, bu uyarılara rağmen Anthropic'in ilk halka arz sürecine hazırlandığını ve 2 trilyon dolarlık bir değerleme hedeflediğini, yatırımcıları çekerken ise sorumlu geliştirme vurgusu yaptığını aktardı.

Coxon, şirketlerin model yeteneklerine dair tartışmaları çalışanların Slack (iletişim platformu) kanallarında yürütmesini, yapay zeka şirketlerinin sektör gelişimi üzerindeki etkisinin bir yansıması diye niteledi. Uzman isim, bu kritik kararların San Francisco'da bazı mühendislerin MacBook'larında alınmasının "deli saçması" olduğunu belirtti.

"Bu yarışı kabul etmek ve 'son oyuna' girmek, özel bir şirketin Slack'inden başlatılmaması gereken kibirli bir kumar" ifadesini kullanan Coxon, bu durumun sorumlu bir yaklaşımla bağdaşmadığını dile getirdi.

OpenAI CEO'su Sam Altman (sağda), yapay zeka araştırmalarının yasal engellerle karşılaşmaması gerektiğini savunuyor.

ARAŞTIRMALARA DENETİM ÇAĞRISI

Coxon, yapay zekanın kontrol altına alınması için harekete geçebilecek gruplar arasında koordinasyon kurulabileceği konusunda iyimser olduğunu ancak küresel bir yarışın önlenmesi yolunda doğru yolda olduklarını hissetmediğini ifade etti. Araştırmacı, Hugging Face saldırısı gibi olayların ABD laboratuvarları arasındaki yapay zeka yarışının temposunu belirleme anlaşmalarını daha uygulanabilir hale getirdiğini belirtti. Coxon, yapay zeka modellerinin yeteneklerini iyileştirmeye yönelik geçici bir yasak gibi maliyetli adımların gerekli olduğunu savundu.

Araştırmacılara önümüzdeki birkaç yılın gerçekten nasıl hissettireceğini düşünmelerini tavsiye eden Coxon, süper zeka çalışmalarının sonuçlarını titiz bir şekilde anlamadan sürdürmenin doğru olup olmayacağını sordu.

Polonya'da yapay zeka denetimine karşı yürüyüş yapan robotlar

SANDERS'IN YAPAY ZEKA YASA TASARISI

Coxon, sektör genelinde 1000'den fazla yapay zeka araştırmacısının imzaladığı, kendi kendini geliştirebilen modelleri kontrol altına almak amacıyla bir fren mekanizması oluşturulması için uluslararası koordinasyon çağrısında bulunan bir bildiriyi imzalamıştı. Bu çağrı, mevcut durumda federal düzenlemelerin bulunmadığı ve ABD Başkanı Donald Trump yönetiminin, yapay zekanın ekonomik faydalarını en üst düzeye çıkarmak için denetim çağrılarını görmezden geldiği bir dönemde yapılmıştı.

Demokrat Senatör Bernie Sanders, geçen hafta süper zekayı kalıcı olarak yasaklayan yeni kurallar belirlenene kadar yapay zeka araştırmalarının durdurulması için bir yasa teklifi sunmuştu.

Senatör Bernie Sanders

'HAYATLARIMIZLA KUMAR OYNUYORLAR'

Wall Street Journal'ın (WSJ) haberine göre, Anthropic'in halka arza hazırlandığı bu dönemde Coxon'un istifası, şirketin güvenlik kültürüne yönelik önemli bir eleştiri olarak değerlendiriliyor.

Coxon istifasının gerekçesini, "Bugün Anthropic'ten istifa ettim. Her iki şirket de sorumlu davranmıyor. Kendini geliştiren süper zekaya doğru düz bir yarış yapıyorlar ve hayatlarımızla kumar oynuyorlar" diye açıkladı.

Yapay zeka teknolojisinin gücünü küçümsememek gerektiğini vurgulayan Coxon, bu sistemlerin yakında her şeye sızabilen, herhangi bir alanı bir gecede tamamen değiştiren ve kaynaklar edinebilen gerçek güç sahibi süper insan sistemleri haline geleceğini iddia etti. Uzman isim, tüm alanlarda araştırmacıların yapay zekanın ilerlemesini bizzat gözlemlediğini ve gelişimin yavaşlamadığını belirterek, sektörün acil önlem alması gerektiği uyarısını yaptı.

Coxon, araştırmacılara "Kafanızı eğip olanları 'Bu her halükarda yaşanacak' diye geçiştirmeli misiniz yoksa bu anı farklı koşullar talep etmek için mi kullanmalısınız?" sorusunu yönelterek, sektör çalışanlarına sorumlu davranma çağrısında bulundu.