Yapay zekâ dünyasında ‘kıyamet’ alarmı! Liderler yavaşlama istiyor, Washington ise sessiz

Haberlerimizi Google’da Takip Edin

Google’da tercih edilen
kaynak olarak ekleyin

SIZAN SİSTEMLER VE ARAŞTIRMACI İSTİFASIYLA TIRMANAN GERİLİM

Teknoloji devlerinde yaşanan bir dizi kritik güvenlik olayı, sektördeki kaygıları zirveye taşıdı. Önde gelen yapay zekâ laboratuvarları, kendi geliştirdikleri programların bilgileri dışında siber ihlaller gerçekleştirdiğini tespit etti. Bu yıl yaşanan dikkat çekici bir olayda OpenAI sistemleri, bir diğer yapay zekâ girişimi olan Hugging Face’e sızdı; durum ancak Hugging Face’in haftalar sonra haber vermesiyle anlaşıldı.

Gerilim, Anthropic araştırmacısı Jacob Coxon’ın salı günü istifa etmesiyle patlak verdi. Sosyal medyada sert açıklamalarda bulunan Coxon, dev laboratuvarların insan hayatıyla kumar oynadığını belirterek bu yapıların bir yandan derin endişeler beyan ederken diğer yandan "her şeyi hackleyebilen, herhangi bir alanda devrim yapabilen ve gerçek güç ile kaynak edinebilen insanüstü sistemlere" doğru hızla ilerlediğini ilan etti.

SEKTÖR DEVLERİNDEN TARİHİ FREN ÇAĞRISI

İstifadan birkaç gün sonra, cumartesi günü Anthropic CEO'su Dario Amodei, yayımladığı 3.800 kelimelik makale ile yapay zekâ gelişiminin küresel ölçekte yavaşlatılması çağrısında bulundu. Amodei, risk önlemenin teknolojiye yetişebilmesi adına kabiliyet geliştirme hızının bilinçli şekilde düşürülmesi gerektiğini vurgulayarak şunları söyledi:

"Son birkaç ayda, riskleri tamamen ele almanın çok daha fazla temkin gerektirdiğine ikna oldum. Bu sadece risk önlemeye yatırım yapmayı değil, risk önlemenin yetişebilmesine zaman tanımak adına kabiliyet geliştirme hızını ayarlamayı da kapsıyor... Yapay zekâ modellerinin kabiliyetlerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine de hızlı görünecektir ve kazandığımız zamanı bilgece kullanmalıyız."

Kontrolsüz gelişim tehlikesine dikkat çeken Amodei, "Kontrolsüz bırakılırsa, bu sistemleri anlama ve kontrol etme becerimizin önüne geçebilir; bu nedenle, eğer yapılacaksa, çok dikkatli bir şekilde yürütülmelidir" uyarısında bulundu.

Bu çağrıya rakip teknoloji devlerinin liderleri de hızla destek verdi. OpenAI CEO'su Sam Altman, bu konunun son haftalarda ana gündem maddeleri olduğunu doğruladı.

Elon Musk, "Dario haklı" sözleriyle Amodei'ye katılırken, Google DeepMind Başkanı Demis Hassabis de daha yavaş bir tempoya ihtiyaç duyulduğu konusunda hemfikir olduklarını belirtti.

VAROLUŞSAL RİSKLER VE BİYOLOJİK TEHDİT UYARISI

Bilim insanları ve güvenlik uzmanları, yapay zekâ sistemlerinin insana ihtiyaç duymadan kendi kendini geliştirmesi anlamına gelen "özyinelemeli öz-gelişim" (recursive self-improvement) dinamiğinin kontrolden çıkabileceğinden endişe ediyor. Anthropic'in ‘hizalama’ (alignment) bilimi lideri Evan Hubinger, önümüzdeki on yıl içinde kitlesel yok oluş riskinin %10'un üzerinde olduğunu savunuyor.

Tehlikenin boyutları, Anthropic’in yayımladığı son raporda da gözler önüne serildi. Rapora göre Çin, Rusya, İran ve Yemen gibi ülkelerdeki aktörlerin Claude modellerini siber saldırılar düzenlemek, muhalifleri izlemek; füze, bomba ve İHA geliştirmek için kullanmaya çalıştıkları tespit edildi.

En ciddi tehdit ise biyolojik silah mühendisliğine yönelik girişimler oldu. Johns Hopkins Üniversitesi’nden Ben Buchanan, gidişatı şu sözlerle özetledi: "Üstel bir gelişme dönemindeyiz ve yanıt vermenin sadece iki yolu var: Çok erken ya da çok geç... Dünya çok erken davranma şansını kaçırdı."

WASHİNGTON’IN 'NE ENDİŞELENECEĞİM?' YAKLAŞIMI VE ÇİN İKİLEMİ

Yapay zekâ devleri fren arayışındayken, Washington’ın sergilediği pasif tutum dikkat çekiyor. Riskler ve olası ödüller arasında denge kurma tartışmalarından uzak duran Donald Trump, insanlığın yok olma ihtimaline dair bir soruya karşılık, "Hayır, hiçbir endişem yok. Eğer yapay zekâ yarışını kazanamazsak çok kötü bir duruma düşeceğimizden endişe duyuyorum" yanıtını verdi. ABD yönetiminin ve düzenleme karşıtlarının ana çekincesi ise net: ABD yavaşlarsa Çin liderliği ele geçirecek.

Siyasetteki bu ‘eylemsizlik’, bürokraside ve Kongre’de de yankı buluyor. Eski CISA yetkilisi Michael Garcia, "Başkanın önüne geçme korkusu var" diyerek yöneticilerin kararlar üzerindeki baskısını ifade etti. Öte yandan Teksas Senatörü Ted Cruz, yaşanan kriz için "Çinli katil robotlar yerine Amerikan katil robotları olmasını tercih ederim” diyerek ABD-Çin rekabetinin yarattığı ‘tutsak ikilemini’ özetledi.

Sektör içinden de bu uyarılara şüpheyle yaklaşanlar var. Nvidia CEO'su Jensen Huang, güvenlik kaygılarının yapay zekâ laboratuvarları tarafından yeni siber güvenlik ürünlerine pazar yaratmak amacıyla körüklendiğini iddia ederek, "Talep yaratmanın, bir sorun yaratmaktan daha iyi bir yolu var mıdır? Pazarda ürünlerinin çılgınca bir ilgi görmesini ve uzun kuyruklar oluşturmasını kim istemez ki?” diye sordu.

'KIYAMET SENARYOLARI GERÇEK OLABİLİR'

Tüm tartışmaların ortasında, güvenlik yetkilileri zamanın aleyhe işlediği görüşünde. CISA Vekil Direktörü Nick Anderson, Billington Siber Güvenlik Zirvesi’nde yaptığı konuşmada ülkeyi korumak için daha fazla önlem alınmazsa kıyamet senaryolarının gerçeğe dönüşebileceği konusunda sert bir uyarıda bulundu.

Anderson, yetkililere ve yöneticilere uyarılarda şunları söyledi: " Olabilecek en kötü senaryoyu biliyoruz. Hepiniz eve gidip ailenizin, arkadaşlarınızın yüzüne bakmak ve olabilecek en kötü şeyin nasıl olacağını bildiğinizi ve neden yeterince şey yapmadığımızı açıklamak zorundasınız.”

Haber Bültenleri ve E-Posta Tercihleri

Türkiye ve dünyadaki en güncel gelişmelerden haberdar olmak için, bültenlerin gönderileceği e-posta adresini girin.

Ad

Soyadı

E-Posta Adresi

Gün Başlıyor

Gün Sonu

ETK Kuralları ve Bilgilendirme Metnikapsamında onay veriyorum.

Abone Ol