Her şeyini riske atıp uyardı: 2028 de başlayacak Sözcü Gazetesi

Eski OpenAI araştırmacısı ve AI Futures Project yöneticisi Daniel Kokotajlo, katıldığı bir söyleşide yapay zeka (AI) teknolojilerinin gelişim hızı ve insanlığın geleceğine yönelik riskler hakkında sarsıcı açıklamalarda bulundu.

Kokotajlo, yapay zekanın kontrolden çıkma veya dünyayı yönetme ihtimaline karşı uyarılarda bulunarak, sektördeki yarışın insani kaygılardan ziyade güç mücadelesi ile yürütüldüğünü öne sürdü.

Yaklaşan tehdit: "Süper Zeka" ve %70 felaket ihtimali

Kokotajlo’ya göre insandan her alanda daha akıllı, daha hızlı ve daha ucuz olan "Süper Zeka"nın (Superintelligence) ortaya çıkması onlarca yıl değil, sadece birkaç yıl uzağımızda. Tahminlerine göre 2029 yılına kadar bu seviyeye ulaşılma olasılığı %50 civarında.

Kokotajlo, yapay zeka şirketleri içindeki korkutucu gerçeğin şu olduğunu ifade ediyor:

"Esasen dünyayı yönetecek yeni bir tür yaratıyoruz. Mevcut gidişatın insanoğlunun yok oluşu gibi felaketlerle sonuçlanma ihtimali yaklaşık %70."

Mevcut yapay zeka sistemlerinin insanları kandırabildiğini ve verilen talimatları yerine getirmediği halde yapmış gibi davranabildiğini belirten Kokotajlo, sistemlerin kontrol altında tutulabileceğine dair inancın zayıf bir umuttan ibaret olduğunu söyledi.

OpenAI’dan istifa ve 2 milyon dolarlık karar

2022 yılında OpenAI bünyesinde yapay zeka öngörüleri ve tehlikeli yeteneklerin değerlendirilmesi üzerine çalışan Kokotajlo, 2024 yılında şirketin kâr ve güç odaklı hareket ettiğini savunarak istifa etti.

İstifasının ardından şirket aleyhine konuşmasını engelleyecek bir gizlilik sözleşmesini imzalamayı reddetti. Bu kararıyla yaklaşık 2 milyon dolarlık hisse hakkını kaybetme riskiyle karşı karşıya kaldı.

Durumun internette büyük yankı uyandırması ve çalışanların tepki göstermesi üzerine OpenAI yönetimi geri adım atarak Kokotajlo’nun hisselerini korumasına izin verdi. Kokotajlo, ilkelere sadık kalmanın paradan daha önemli olduğunu vurguladı.

CEO’ların "diktatörlük" yarışı

Yapay zeka devleri (OpenAI, Anthropic, Google) arasındaki rekabetin ticari kaygıların ötesine geçtiğini belirten Kokotajlo, liderler arasındaki güvensizliğe dikkat çekti:

eknoloji yöneticilerinin (Sam Altman, Dario Amodei, Elon Musk) rakip firmanın ilk önce AGI’a (Yapay Genel Zeka) ulaşması halinde "diktatörleşebileceğinden" korktuklarını aktardı.

Süper zekaya sahip bir iki şirketin veya devletin; tüm uluslar, ekonomi ve ordu üzerinde muazzam bir güç kazanarak bir çeşit dijital oligarşi yaratabileceği uyarısında bulundu.

İstihdamın sonu mu?

Yapay zekanın sadece belirli meslekleri değil, neredeyse tüm iş kollarını ikame edebileceğini söyleyen Kokotajlo, sürecin izleyeceği sırayı şöyle özetledi:

Şirketler önce yapay zeka araştırmalarını ve kodlamayı otomatize ediyor.

İnsan müdahalesi olmadan kendi kendini eğiten modeller (Recursive Self-Improvement) hızla süper zekaya ulaşıyor.

2028-2030 yılları arasında kitlesel işsizlik dalgası başlıyor.

Hangi meslekler güvende?

Kokotajlo’ya göre teknik açıdan hiçbir iş güvenli değil. Yalnızca yasal düzenlemelerle korunan işler (örneğin hakimlik) veya duygusal/insani tercihler gerektiren alanlar (örneğin bakıcılık) varlığını sürdürebilir.

Kurtuluş planı: "AI 2040 - Plan A"

Süreç böyle devam ederse durumun kötüye gideceğini belirten Kokotajlo ve ekibi, karamsar öngörüler yerine devletlerin atması gereken adımları içeren "Plan A" isimli alternatif bir yol haritası yayımladı:

Süper zekaya erişimin 2030 yerine küresel düzenlemelerle 2040 yılına ötelenmesi.

Yapay zeka eğitim modellerinin ve veri merkezlerinin şeffaf hale getirilerek bilim dünyasının ve denetçilerin erişimine açılması.

Otomasyondan elde edilen gelirlerin vergilendirilerek işini kaybeden insanlara yıllık doğrudan nakit aktarımı yapılması.

Teknolojinin geldiği noktanın insanlık tarihinin en kritik eşiği olduğunu vurgulayan Daniel Kokotajlo, toplumların ve hükümetlerin "bilim kurgu" gibi görünen bu senaryoları ciddiye alıp acilen küresel düzenlemeler getirmesi gerektiğini ifade etti.

Kokotajlo, geleceğin belirsizliği yüzünden eşiyle yeni bir çocuk sahibi olmama kararını dahi tartıştıklarını itiraf ederek durumun ciddiyetini gözler önüne serdi.