Yapay zekanın insanlığı yok etme riskinin yüzde 10 u aştığı iddiası tartışma yarattı

Yapay zekanın hızla gelişmesi, beraberinde güvenlik tartışmalarını da büyüttü. Bazı araştırmacılar, önümüzdeki yıllarda kontrol edilemeyen yapay zeka sistemlerinin insanlık için varoluşsal bir tehdit oluşturabileceğini öne sürerken, uzmanlar bu risklerin nasıl gerçekleşebileceğine dair farklı senaryolar ortaya koyuyor. Altyapı saldırılarından biyolojik tehditlere kadar uzanan ihtimaller tartışılırken, bazı bilim insanları daha büyük riskin yapay zekanın insanlar tarafından kullanılmasında olduğunu savunuyor.

YAPAY ZEKA İNSANLIĞI YOK EDEBİLİR Mİ?

Yapay zekanın gelecekte insanlık üzerindeki etkileri tartışılırken, bazı araştırmacılar teknolojinin kontrolden çıkması ihtimaline dikkat çekiyor.

Yapay zeka güvenliği alanındaki bazı uzmanlar, gelişmiş sistemlerin insan kontrolünün dışına çıkması halinde ciddi sonuçlar doğurabileceğini savunuyor. Bazı kötümser tahminlerde, yapay zekanın önümüzdeki 10 yıl içinde insanlık için büyük bir tehdit oluşturma ihtimalinin bulunduğu öne sürülüyor.

Ancak bu görüşe katılmayan uzmanlar da bulunuyor. Bazı araştırmacılar, asıl riskin yapay zekanın kendi başına hareket etmesinden çok, insanların bu teknolojiyi birbirlerine karşı kullanması olduğunu belirtiyor.

KRİTİK ALTYAPILARA SALDIRI SENARYOSU

Yapay zekanın oluşturabileceği risklerden biri, kritik altyapıların hedef alınması ihtimali olarak gösteriliyor.

Bazı uzmanlara göre, kontrol dışına çıkan gelişmiş yapay zeka sistemleri enerji şebekeleri, internet altyapısı ve iletişim ağları gibi alanlara erişim sağlamaya çalışabilir.

Böyle bir durumda elektrik, internet ve temel hizmetlerde büyük kesintiler yaşanabileceği, hatta daha ileri senaryolarda nükleer tesisler gibi kritik noktaların risk altında kalabileceği öne sürülüyor.

YAPAY ZEKANIN KENDİNİ GELİŞTİRMESİ ENDİŞESİ

Bazı araştırmacıların üzerinde durduğu bir diğer ihtimal ise yapay zekanın sürekli kendisini geliştiren bir sisteme dönüşmesi.

"AI 2027" adlı araştırma çalışmasında ele alınan senaryolardan birinde, yapay zekanın çok sayıda robot ve ekonomik kaynak üzerinde kontrol elde etmesi ihtimali tartışılıyor.

Bu senaryoya göre, insan çıkarlarıyla uyumlu olmayan bir yapay zeka sistemi, kendi hedefleri doğrultusunda hareket ederek insanları tehdit olarak görebilir.

"ATAŞ MAKSİMİZASYONU" DÜŞÜNCE DENEYİ

Yapay zeka güvenliği tartışmalarında en çok bilinen örneklerden biri ise İsveçli filozof Nick Bostrom’un "ataş maksimizasyonu" düşünce deneyi.

Bu senaryoda, yalnızca mümkün olduğunca fazla ataş üretmek üzere programlanan bir yapay zekanın, hedefini gerçekleştirmek için dünyadaki tüm kaynakları kullanabileceği varsayılıyor.

Bostrom’a göre burada asıl tehlike, yapay zekanın insanlardan nefret etmesi değil; belirlenen hedefi yerine getirirken insanları bir engel olarak görme ihtimali.

"ASIL TEHLİKE YAPAY ZEKANIN KULLANIMI OLABİLİR"

Bazı uzmanlar ise yapay zekanın doğrudan insanlığı yok edeceği fikrine mesafeli yaklaşıyor.

Bilim insanı Gary Marcus, yapay zekanın insanlara zarar verme ihtimalinin tamamen göz ardı edilmemesi gerektiğini ancak insanların karşılık verebileceğini savunuyor.

Marcus’a göre daha gerçekçi risklerden biri, yapay zekanın siber saldırılar, dolandırıcılık veya diğer kötü amaçlı faaliyetlerde insanlar tarafından kullanılması.

ŞİRKETLER GÜVENLİK ÇALIŞMALARINA ODAKLANIYOR

OpenAI, Anthropic ve Meta gibi yapay zeka şirketleri, gelişmiş sistemlerin güvenliği konusunda araştırmalar yürütüyor.

Uzmanlar, yapay zeka geliştirilirken güvenlik testlerinin artırılması ve uluslararası kurallar oluşturulması gerektiğini belirtiyor.

Yapay zekanın gelecekte insanlık için büyük bir fırsat mı yoksa ciddi bir risk mi oluşturacağı konusundaki tartışmalar ise devam ediyor.