Yapay zeka baronlarını korkutan ne? Ciddi açıklamalar peş peşe geldi Sözcü Gazetesi

Yapay zeka sektöründe yıllardır daha güçlü modeller geliştirmek için kıyasıya rekabet eden teknoloji devlerinden bu kez aynı yönde mesajlar geldi. Anthropic CEO’su Dario Amodei’nin yapay zeka geliştirme hızının güvenlik çalışmalarını geride bıraktığı yönündeki uyarıları ve “yavaşlama” çağrısı tartışma yarattı. OpenAI CEO’su Sam Altman, Elon Musk ve Google DeepMind CEO’su Demis Hassabis’in de benzer kaygıları dile getirmesi, “Yapay zeka şirketlerini ne korkutuyor?” sorusunu yeniden gündeme taşıdı.

Yapay zekanın geleceğine ilişkin güvenlik tartışmaları, Anthropic çalışanı Jacob Coxon’ın şirketten ayrılırken dile getirdiği endişelerin ardından yeni bir boyut kazandı. Coxon’ın teknolojinin yeterince kontrol edilememesi halinde insanlık açısından varoluşsal sonuçlar doğurabileceğine yönelik açıklamalarından günler sonra Anthropic CEO’su Dario Amodei uzun bir makale yayımladı.

Yaklaşık 3 bin 800 kelimelik makalesinde Amodei, yapay zekanın sağlayabileceği büyük faydaları kabul etmekle birlikte teknolojinin gelişim hızının güvenlik araştırmalarının yetişmesini zorlaştırdığını savundu.

“YAPAY ZEKA MODELLERİNİ GELİŞTİRME HIZIMIZI YAVAŞLATMALIYIZ”

Amodei’ye göre artık yalnızca yapay zeka güvenliğine daha fazla para ve insan kaynağı ayırmak yeterli değil. Geliştirilen modellerin yetenek kazanma hızının da güvenlik çalışmalarının yetişebileceği şekilde ayarlanması gerekiyor.

Anthropic CEO’su, son aylardaki gelişmelerin kendisini daha güçlü tedbirlerin gerekli olduğuna ikna ettiğini belirterek yapay zeka modellerinin geliştirilme hızının yavaşlatılması gerektiğini savundu.

Amodei, böyle bir durumda teknolojik ilerlemenin durmayacağını, dışarıdan bakıldığında yine oldukça hızlı görüneceğini ancak araştırmacılara olası tehlikeleri anlamak ve gerekli güvenlik sistemlerini geliştirmek için kritik zaman kazandırılacağını belirtti.

EN BÜYÜK KORKULARDAN BİRİ: KENDİNİ GELİŞTİREN YAPAY ZEKA

Tartışmaların merkezinde ise yapay zeka sistemlerinin giderek daha bağımsız hareket edebilmesi bulunuyor.

Araştırmacıların üzerinde durduğu senaryolardan biri “özyinelemeli öz-gelişim” olarak adlandırılıyor. Bu senaryoda yeterince gelişmiş bir yapay zeka sistemi, insan müdahalesine giderek daha az ihtiyaç duyarak kendi yeteneklerini artırabilecek araçlar geliştirebilir.

Endişe, bu sürecin belirli bir noktadan sonra insanların sistemlerin nasıl çalıştığını anlama, davranışlarını öngörme ve gerektiğinde onları kontrol altında tutma kapasitesini aşabilmesi.

Amodei de denetimsiz bir gelişim sürecinin yapay zeka sistemlerini kontrol etmeyi giderek zorlaştırabileceği görüşünde.

RAKİPLERDEN PEŞ PEŞE DESTEK

Amodei’nin çağrısının ardından sektörün en güçlü şirketlerinin yöneticilerinden gelen mesajlar dikkat çekti.

OpenAI CEO’su Sam Altman, yapay zeka sistemlerinin bağımsız kuruluşlar tarafından değerlendirilmesi fikrine destek verirken OpenAI’ın da benzer uygulamalar üzerinde çalışacağını belirtti.

Elon Musk ise Amodei’ye desteğini kısa bir mesajla göstererek “Dario haklı” ifadesini kullandı.

Google DeepMind CEO’su Demis Hassabis de Amodei’nin yaklaşımını olumlu değerlendirerek yapay zeka güvenliği konusunda atılan adımların doğru yönde olduğunu belirtti.

Normal şartlarda milyarlarca dolarlık yapay zeka pazarında birbirleriyle rekabet eden isimlerin aynı noktada buluşması, teknoloji dünyasındaki tartışmayı daha da büyüttü.

BAĞIMSIZ DENETİM ÇAĞRISI

Amodei’nin önerilerinin başında yapay zeka laboratuvarlarının yalnızca kendi güvenlik ekipleri tarafından değil, şirket dışındaki bağımsız uzmanlar tarafından da denetlenmesi geliyor.

Anthropic CEO’su ayrıca yapay zekanın sınırları aşan niteliği nedeniyle tek tek ülkelerin hazırlayacağı düzenlemelerin yeterli olmayabileceğini savunuyor.

Buna göre demokratik ülkelerin ortak güvenlik standartları oluşturması, ilerleyen aşamalarda ise küresel ölçekte koordinasyon sağlanması gerekiyor.

ELEŞTİRİLER DE VAR: “PAZARI KENDİLERİNE Mİ KAPATIYORLAR?”

Ancak teknoloji dünyasının tamamı büyük yapay zeka şirketlerinin güvenlik çağrılarına aynı gözle bakmıyor.

Eleştirilerin merkezinde, sektörün en büyük şirketlerinin yapay zekanın oluşturabileceği tehlikeleri öne çıkararak daha ağır devlet düzenlemelerinin önünü açabileceği iddiası bulunuyor. Bu görüşü savunanlara göre büyük şirketlerin karşılayabileceği maliyetli güvenlik ve denetim şartları, daha küçük yapay zeka girişimlerinin pazara girmesini zorlaştırabilir.

Bu nedenle tartışmanın bir tarafında “insanlığı korumak için yavaşlama” çağrısı bulunurken diğer tarafında bunun aynı zamanda teknoloji devlerinin pazardaki konumunu güçlendirebileceğini savunanlar yer alıyor.

Nvidia CEO’su Jensen Huang da yapay zeka şirketlerinin güvenlik konusundaki söylemlerine eleştirel yaklaşan isimlerden biri olurken, Hugging Face CEO’su Clément Delangue güvenlik meselelerinin yalnızca birkaç şirketin kapalı kapılar ardında alacağı kararlarla çözülemeyeceğini savundu.

YAPAY ZEKA YARIŞINDA YENİ DÖNEM

Son açıklamalar, yapay zeka sektöründeki tartışmanın artık yalnızca “En güçlü modeli kim geliştirecek?” sorusundan ibaret olmadığını gösteriyor. Şirketler bir taraftan daha gelişmiş sistemler için milyarlarca dolarlık yatırımlar yaparken diğer taraftan geliştirdikleri teknolojinin hangi noktada kontrol edilmesi gerektiğini tartışıyor.

Amodei ise bütün eleştirilere rağmen risklerin göz ardı edilemeyecek kadar büyük olduğu görüşünde. Anthropic CEO’sunun mesajı özetle net: Yapay zekanın ilerlemesi durdurulmasın ancak güvenlik mekanizmalarının geride kalacağı kadar da hızlanmasın.