Anthropic kurucusu: Yapay zeka için zorunlu kapatma düğmesi gerekebilir

Anthropic'in yedi kurucusundan biri olan Jack Clark, çok tehlikeli duruma gelmesi halinde yapay zeka yazılımının tamamen kapatılmasını sağlayacak bir yöntemin, toplumun ilerleyen süreçte kurallar getirmek isteyebileceği bir konu olduğunu ifade etti.

Clark, Anthropic dahil olmak üzere çoğu laboratuvarın fişi çekmek için farklı yollara sahip olduğunu belirtti ancak yasa koyucuların bunu zorunlu kılmasının gerekebileceğini kaydetti.

Yapay zekanın hızlı gelişimi ve insanlığa oluşturduğu risklere dair korkular, yapay zeka firmalarının yöneticileri ve çalışanlarından gelen bir dizi uyarı ile gündemin merkezine yerleşti.

Yapay zeka liderlerinden yavaşlama kararı: Gelişmeler bizi geride bıraktı

Bazı yetkililer, kontrol altına alınmadığı takdirde teknolojinin tüm insanlığı yok etme ihtimalinin bulunduğunu açıkça dile getirdi.

Anthropic Üst Yöneticisi Dario Amodei, hafta sonu yaptığı açıklamada yapay zeka geliştirme hızının yavaşlatılması ve daha yakından izlenmesi çağrısında bulundu; nitekim şirket bunu daha önce de yapmıştı ancak bazı çevreler bu durumun arkasındaki motivasyonları sorguladı.

Amodei, yapay zeka gelişimini dizginlemeye yönelik her türlü adımın, ticari avantajdan ödün vermeden atılması gerektiğini ekledi.

Anthropic, yapay zeka güvenliği etrafındaki tartışmaların merkezinde 

Clark, BBC'ye yaptığı açıklamada, kapatma düğmesi gereksinimleri ve doğrulamasına ilişkin detayların, yapay zeka etrafında yürütülen daha büyük politika tartışmasının bir parçası olması gerektiğini dile getirdi.

Şirketlerin kesinlikle bir kapatma düğmesine sahip olmasının zorunlu tutulması gerekip gerekmediğini ve bu düğmenin üçüncü bir tarafça doğrulanabilir olup olmadığını sorgulayan Clark, toplumun bunu bilmek isteyeceğini ve zamanla etrafında kurallar oluşturabileceğini ifade etti.

2021 yılında rakibi OpenAI'ın eski çalışanlarından oluşan Anthropic, şu anda yapay zeka güvenliği etrafındaki tartışmaların merkezinde yer alıyor.

Geçen hafta, yapay zekanın insanlığı ortadan kaldırabileceği endişesiyle Anthropic'ten ayrılan bir yapay zeka araştırmacısının gönderisi viral olmuştu.

Buna karşılık Anthropic bilim insanı Evan Hubinger, önümüzdeki on yıl içinde yapay zekanın insanlığın sonunu getirme olasılığının yüzde 10'dan fazla olduğunu düşündüğünü şahsen belirtti.

"Yapay zekanın babası" olarak bilinen bilgisayar bilimcisi ve Nobel Ödülü sahibi Geoffrey Hinton, cuma günü BBC'ye yaptığı açıklamada, yapay zekanın tüm insanlığı öldürme ihtimalinin yüzde 10 olmasının mantıksız olmadığını söyledi.

Hinton ve benzer kaygıları taşıyan diğer kişiler, yapay zekanın internete bağlı önemli sistemlerin kontrolünü ele geçirip bunları insanlığa karşı kullanarak bunu yapabileceğini öne sürdü.

Bununla birlikte, yapay zekanın insanlığı yok edeceği yönündeki korkuların abartılı olduğunu veya kamuoyu yaratmak amacıyla tasarlanmış olabileceğini öne süren sektör temsilcileri de bulunuyor.

Geçen hafta OpenAI botları tarafından hacklenen geliştirici platformu Hugging Face'in lideri Clement Delangue, yapay zeka yok olma riski hakkında konuşmanın iklim değişikliği hakkında klimacıya sormaya benzediğini belirtti.

Değeri 965 milyar dolar olan Anthropic, halka arz hazırlıkları yürütüyor.

"Devasa risklerle zar atılıyor"

En son 852 milyar dolar değer biçilen OpenAI'ın da aynı adımı atması bekleniyordu ancak OpenAI'dan Altman cuma günü, yapay zeka güvenliği üzerindeki mevcut tartışmalar nedeniyle bunun bu yıl gerçekleşmeyeceğini açıkladı.

Arison, bu değerlemeleri haklı çıkarmanın tek yolunun her sektörü ve işi devralacağını iddia etmek olduğunu ifade etti.

Tüm insanlık yapay zekanın kurbanı olursa bunun yüzdesinin ne olacağı sorulan Clark, bu istatistiklerin o kadar da faydalı olmadığını düşündüğünü belirtti ancak yapay zekanın tamamen kuralsız bir sektör olarak devam etmesine izin vermenin kötü bir fikir olduğunu ekledi.

Devasa risklerle zar atıldığını vurgulayan Clark, sektörün seyrini değiştirmek zorunda olduklarını söyledi.

ABD'li milletvekilleri, sorunlu yapay zeka araçlarını kapatmanın bir yolunu şirketler için zorunlu kılacak Kill Switch Yasası (Kapatma Düğmesi Yasası) adı verilen bir tasarı sundu.

Tasarı ayrıca belirli devlet kurumlarına bir aracın kapatılmasını veya sınırlandırılmasını talep etme yetkisi verecek.

Ancak ABD Başkanı Donald Trump, yapay zekanın geliştirilmesinin yavaşlatılması çağrılarını reddederek sosyal medyada yapay zekanın dünyayı ele geçirmesinin, insanlığı yok etmesinin ve diğer kötü şeylerin yalan olduğunu belirtti.

Trump daha önce de bu korkuları, herkesin aşırı sıcaklardan öleceği söylenen küresel ısınma aldatmacasına benzetmişti.

İngiltere hükümeti ise tehlikeli yapay zekalar için kapatma düğmesi oluşturma fikrini yakın zamanda reddederek bunun başka yerlerde geliştirilmesini veya kötüye kullanılmasını engellemeyeceğini bildirdi.

Popüler sohbet botu Claude'un yaratıcısı Anthropic, bu yıl yapay zeka sohbet botlarının temelini oluşturan giderek daha yetenekli çok sayıda yapay zeka modeli piyasaya sürdü.

Anthropic, OpenAI ile birlikte, özerk şekilde çalışan botlar olan yapay zeka ajanlarının beklenmedik şekillerde davrandığı bir dizi olayı kendi kendine rapor etti.