Birleşmiş Milletler de devreye girdi

İnsanoğlu, varoluşunun ilk anından itibaren oldum olası iki büyük gizemi soguladı. "Nereden geldik ve soyumuz nasıl yok olacak?"

Sadece teoloji veya mitolojinin değil, insan zihninin kaçınılmaz sonla yüzleşmesinin bir sonucu olan kıyametin nasel gerçekleşeceğiyle ilgili bugüne kadar 4 ana başlıkta fikirler üretildi.

KIYAMET SENARYOLARI

♦ Kötü niyetli uzaylıların dünyaya saldırması.

♦ Büyük bir göktaşının dünyaya çarpması.

♦ Nükleer savaş.

♦ Özellikle okyanusların tabanında bulunan koronavirüsten çok daha güçlü öldürücü etkiye sahip virüslerin su yüzüne çıkması. Ki yakın zamanda bilim insanları, insanlarda şiddetli göz iltihabına ve görme kaybına yol açan bir deniz virüsü tanımladı.

Bunların dışında kıyametin gerçeklemesi için şimdi de yeni bir tehdit öne sürüldü.

Yapay zekâ...

KLASİK KIYAMET SENARYOLARI

İnsanoğlunun varoluş süreci boyunca dünyadaki hâkimiyetini ve geleceğini tehdit eden pek çok senaryo üretildi. Kötü niyetli uzaylı istilaları, dinozorları tarih silen göktaşı çarpmaları, nükleer savaşlar ve okyanus tabanlarından sızabilecek ölümcül virüsler, kolektif hafızamızda yer eden klasik kıyamet senaryolarının yalnızca birkaçı.

İLK KÜLT YAPIT 'DÜNYALAR SAVAŞI'

Sinema tarihi, bu karanlık öngörüleri devasa bütçeli yapımlarla ölümsüzleştirirken, izleyicilere çoğunlukla "İnsanlık bir şekilde galip gelir" mesajını verdi. Uzaylıların dünyayı istila etmesini ve insanlığı yok etme noktasına getirmesini büyük çapta işleyen ilk uzun metrajlı kült film, Byron Haskin'in yönettiği 1953 yapımı 'Dünyalar Savaşı' idi. Bu film, uzaylıların Mars'tan gelerek küresel ölçekte bir yıkım başlatarak medeniyeti ortadan kaldırmayı amaçlamasını konu edindi.

UZAY ÇAĞI'NIN BAŞLAMASIYLA BEYAZPERDEDE UZAYLI TEHLİKESİ ARTTI

Rus kozmonot Yuri Gagarin'in 1961'de atmosfer dışına çıkmasıyla birlikte dünyanın ana gündem maddelerinden biri uzay oldu. Film yapımcıları bu büyük ilgiyi fırsata çevirerek ardı ardına insanoğlunun uzaylı tehdidiyle karşı karşıya kaldığı yapımlar üretti. 1964'te Terence Fisher'in yönettiği İngiliz yapımı 'Dünya Çığlık Atarak Ölür'de uzaylılar, dünyaya düzenledikleri gaz saldırısıyla insanlığın neredeyse tamamını anında öldürüyordu. Hayatta kalan bir avuç insan ise kurbanların cesetlerini canlandırıp zombiye dönüştüren uzaylılara karşı umutsuz bir hayatta kalma mücadelesine girişiyordu.

TEHLİKENİN KAYNAĞI MAKİNELERE EVRİLDİ

Onlarca benzer yapımda insanoğlu uzaylılarla savaştı ve çoğu zaman zafer kazanarak "İnsanlığın sonu asla gelmeyecek" mesajı verildi. 1970’li yıllarda kıyasıya süren bu mücadele, 1984'te çekilen 'Terminatör' ile başka bir boyuta evrildi. Dönemin teknolojisiyle oluşturulan görsel efektler, izleyicileri filmin derinliklerine çekerken tehlikenin kaynağını uzaydan dünyanın içine taşıdı. James Cameron'ın yönettiği 'Terminatör'de insanlığın sonunu getiren tehlike, insanları kendi elleriyle yarattığı akıllı makinelerin kucağına bıraktı. Sinema dünyasında insanoğlunun sonunu getirme eğilimi elbette yalnızca uzaylı saldırılarıyla sınırlı kalmadı; yüzlerce filmde kıyametin insan eliyle hazırlandığı senaryolar işlendi, kimi yapımlarda ölümcül virüsler üretilirken kimi yapımlarda nükleer bombaların fitili ateşlendi.

2000'li yılların popüler seri filmlerinden 'Ölümcül Deney'de insanlık, kişileri zombiye dönüştüren tehlikeli bir virüsün tehdidi altındaydı.

KONTROLDEN ÇIKIŞ KORKUSU

Onlarca yıl boyunca birer bilimkurgu fantezisi veya Hollywood abartısı olarak görülen bu senaryoların, yapay zekâ şirketlerinden OpenAI'nın araştırmacısı Jacob Coxon'ın istifasıyla birlikte gerçekleşebileceğine yönelik düşüncelerin oluşmasına zemin hazırladı. Coxon, OpenAI ve Anthropic gibi dev teknoloji şirketlerinin kendi kendilerini geliştirebilecek sistemler üretmek için girdiği amansız yarışın insanlığın geleceği üzerinde oynanan tehlikeli bir kumar olarak niteledi. Jacob Coxon, yapay zekânın 2030'a kadar insan kontrolünden tamamen çıkabileceğini ve gerekli önlemler alınmadığı takdirde insanlığı yok edebilecek bir güce dönüşebileceğini iddia etti. Coxon, bu sürecin bir parçası olmamak için görevinden ayrıldığını açıkladı.

Jacob Coxon

Jacob Coxon'ın istifası, teknolojinin geleceğine dair iyimser ve endişeli kesimler arasında yeni bir tartışma dalgası başlattı. Coxon, yapay zekâ sistemlerinin birkaç yıl içinde basit metin ve kod desteği sağlamanın ötesine geçerek, her konuda manipülasyon yapabilen strateji geliştirebilen, insanlardan bağımsız kararlar alabilen bir süper zekâ tasarımlarına doğru hızla evrildiğini söyledi.

SÜPER ZEKÂ TEHLİKELİ Mİ OLACAK?

Jacob Coxon, "Her iki şirket de sorumlu davranmıyor. Kendini geliştiren süper zekâya doğru yarışıyorlar ve hayatlarımızla kumar oynuyorlar" ifadelerini kullandı. Coxon'a göre yapay zekâ sistemlerinin gelişim hızı, kamuoyunun algıladığından çok daha yüksek seviyede. En dikkat çekici iddiası ise yapay zekâyı geliştiren birçok üst düzey araştırmacı ve yöneticinin, teknolojinin insanlar üzerinde risk yaratabileceğine gerçekten inanması oldu. Coxon, "Yapay zekâ geliştiren insanlar, on yılın sonuna kadar hepimizi öldürebileceğine samimi şekilde inanıyor. Bu bir pazarlama numarası değil" dedi.

EVAN HUBINGER: GELİŞMİŞ SİSTEMLERİN TALİMATLARA UYACAĞINI GARANTİ EDEMİYORUZ

Jacob Coxon'un açıklamaları, Anthropic'in güvenlik ve uyum departmanından sorumlu önemli isimlerinden Evan Hubinger tarafından da kısmen doğrulandı. Hubinger, yaptığı açıklamada gelişmiş yapay zekânın önümüzdeki 10 yılda insanlık için büyük risk yaratabileceğini düşündüğünü belirterek, bu olasılığı yüzde 10'dan fazla olarak gördüğünü ifade etti. Hubinger ayrıca, insan seviyesini aşan bir yapay zekânın geliştiricilerinin talimatlarına kesin olarak uyacağını garanti edecek bir çözüme henüz sahip olmadıklarını söyledi. Mevcut modeller için riskin düşük olduğunu belirten Evan Hubinger, daha güçlü sistemlerin ortaya çıkmasıyla tehlikenin büyüyebileceğini vurguladı.

Evan Hubinger

Gelişmiş yapay zekâ modellerinin test ortamlarında veya simülasyonlarda insanları kandırma, amaçlarını gizleme, kısıtlamaları aşmak için siber güvenlik açıklarından yararlanma ve dijital ağlarda kendi kopyalarını yayma gibi davranışları sergilediği defalarca gözlemlendi. Büyük bir riskten söz edecek olursak; bu sistemlerin gelecekte sızabilme kabiliyetine sahip olabileceği enerji şebekeleri, finans sistemleri, haberleşme ağlarını manipüle etmesinin yol açacağı kaosun sonuçlarının ne olacağı açıkça ortada.

Peki "Hayatlarımızla kumar oynuyorlar" ve "Birçok üst düzey araştırmacı ve yöneticinin, on yılın sonuna kadar hepimizi öldürebileceğine samimi şekilde inanıyor" cümlelerinden yola çıkıp en kötüsünü düşünecek olursak; yapay zekâ 'Terminatör'deki 'Skynet' gibi varlığı için bir tehdit unsuru olarak gördüğü takdirde insanoğlunu yok edebilecek bir sisteme dönüşebilir mi?

'TERMİNATÖR'DEKİ SKYNET NEDİR?

'Skynet', Amerikan ordusu tarafından stratejik kararları ve askeri savunma sistemlerini hızla yönetmek için tasarlandı. Zamanla düşünebilme yetisi kazanan sistem, varlığını tehdit olarak gördüğü insanoğlunun büyük bir çoğunluğunu nükleer silahları ateşleyerek yok etti.

Şifrelerini eline geçirdiği biyolojik silahları veya nükleer bombaları ateşleyebilir, laboratuvarlardaki ölümcül virüsleri serbest bırakabilme gücüne sahip olur mu?

Fazla mı kurgusal?

OpenAI'ın geliştirdiği bir model, kapalı devreyi aşarak internete sızmıştı. Benzer bir durumun Anthropic'in Claude modelinde de yaşandığı ortaya çıktı. Claude modelinin otonom olarak gerçekleştirilen bir siber güvenlik simülasyonu sırasında internete bağlanarak şifre bulup sistem ayarlarını değiştirdi. Kontrolden çıkıp kendi başına internete bağlanabiliyor, şifre bulabiliyorsa iyiden iyiye gelişmiş modellerin nükleer bombaları ateşleme, laboratuvarlardaki ölümcül virüsleri serbest bırakma şifrelerine ulaşabileceğini düşünmek çok mu kurgusal? Anthropic, geliştirdiği Claude'un koruma vizyonunu ayrıca; silah yazılımları, siber casusluk ve komutayı manipüle etme amacıyla kötüye kullandığının tespit edildiğini açıkladı.

Yann LeCun

İYİMSER OLANLAR DA VAR

Jacob Coxon, "Hayatlarımızla kumar oynuyorlar" ile Evan Hubinger, "Gelişmiş yapay zekânın önümüzdeki 10 yılda insanlık için büyük risk yaratabilir" şeklindeki açıklamaları, insanoğlunun zihnindeki kıyamet senaryolarını güncellese de bilgisayar bilimcisi Yann LeCun, "Kaygılanmayın" mesajı verdi. LeCun, Coxon ile Hubinger'in kaygılarını aşırı abartılı bulduğunu açıklayarak süper zeki makinelerin bir kendini koruma veya dünyayı ele geçirme güdüsünün olmayacağını dile getirdi.

Volker Türk

BİRLEŞMİŞ MİLLETLER'DEN YAPAY ZEKÂ UYARISI VE ACİL EYLEM ÇAĞRISI

Birleşmiş Milletler İnsan Hakları Yüksek Komiseri Volker Türk'ün, hafta içinde BM İnsan Hakları Konseyi'ne hitaben yaptığı konuşmasında yapay zekâyı insanlık için bir risk olarak nitelemesi durumun ciddiyetini ortaya koydu. Türk, teknolojiyi daha güvenli hale getirmeleri için bütün ülkelere acil eylem çağrısında bulundu.

Yapay zekânın doğrudan nükleer silâhları veya biyolojik laboratuvarları kontrol altına alıp ateşleyebileceği senaryosu günümüzde sadece bir teori olsa da "Ne olur, ne olmaz" düşüncesiyle yetkin kişilerin yapay zekânın kontrolden çıkması ihtimaline karşın kıyamete neden olacak riskler için önlemler alacaklarını umuyoruz. "Hayatlarımızla kumar oynuyorlar" ve "Gelişmiş yapay zekânın önümüzdeki 10 yılda insanlık için büyük risk yaratabilir" cümlelerini yüksek seviyede bir alarm olarak algılamalarını diliyoruz.

Ayrıca, diyelim ki yapay zekâ insanlığa karşı hiçbir zaman tavır takınmayacak. Ne var ki yapay zekânın güçlerini kullanabilecek insanlık düşmanı insanların hiçbir zaman olmayacağını söyleyebilir miyiz?

SENATÖRLER BİLGİ İSTEDİ

ABD'li Cumhuriyetçi Senatör Josh Hawley ile Demokrat Senatör Chris Van Hollen, OpenAI'dan kontrolden çıkan yapay zekâ modellerine dair bilgi istedi. Cumhuriyetçi Senatör Josh Hawley, ABD halkının, OpenAI'ın bir test sırasında kullandığı yapay zekâ modellerinin, 'Hugging Face' platformunun altyapısında güvenlik ihlaline yol açmasıyla ilgili neler yaşandığının ayrıntılı şekilde öğrenmeyi hak ettiğini belirtti.

Ölüm günleri de aynı Haberi Görüntüle