Teknoloji devinden ayrıldı, bildiklerini anlattı: Yapay zekanın karanlık yüzü! 5 büyük risk ‘Çok kararlılar, kimse farkına bile varmayabilir’

Haberlerimizi Google’da Takip Edin

Gelişmelerden anında haberdar olun.

Google’da tercih edilen
kaynak olarak ekleyin

Yapay zekanın geleceği artık yalnızca teknoloji şirketlerinin ve bilim insanlarının tartıştığı bir konu olmaktan çıktı. Teknolojinin giderek daha güçlü hale gelmesiyle birlikte yapay zekanın nasıl denetleneceği, insan kontrolünün nasıl korunacağı ve olası risklerin nasıl sınırlandırılacağı Birleşmiş Milletler’in (BM) de gündemine taşındı.
BM Genel Kurulu’nda liderler yapay zekanın oluşturabileceği risklere karşı daha güçlü güvenlik önlemleri ve kamu denetimi çağrısı yaparken, ABD Başkanı Donald Trump’tan ise dikkat çeken bir çıkış geldi. Trump, BM Genel Kurulu’nda yaptığı konuşmada yapay zekanın küresel ölçekte düzenlenmesine yönelik girişimlere karşı olduğunu açıkça ortaya koydu.
ABD Başkanı ayrıca yapay zekanın adının da değiştirilmesini gündeme getirdi. Trump, yapay kelimesinin teknolojinin gerçek kapasitesini olduğundan daha küçük gösterdiğini savunarak, bundan böyle ABD’nin resmî belgelerinde “yapay zeka” yerine “süper zeka” ifadesinin kullanılacağını açıkladı. Trump, diğer ülkelerin de bu ifadeyi kullanmasını umduğunu söyledi.

SEKTÖR İÇİNDEN GELEN AÇIKLAMA TARTIŞMAYI ÜRKÜTÜCÜ BİR NOKTAYA TAŞIDI

Trump’ın açıklamaları, BM’de yapay zekaya ilişkin daha sıkı güvenlik önlemleri çağrılarının yapıldığı bir dönemde geldi. BM Genel Sekreteri Antonio Guterres, yapay zeka konusunda daha güçlü denetim çağrısı yaparken, 20’den fazla ülkenin lideri de gelişmiş yapay zeka sistemleri için bağlayıcı güvenlik önlemleri oluşturulmasını istedi.
Tam da yapay zekanın geleceğinin küresel ölçekte tartışıldığı bu ortamda, sektörün içinden gelen başka bir açıklama ise tartışmayı çok daha ürkütücü bir noktaya taşıdı.
Yapay zeka araştırmacısı Jacob Coxon, X hesabından yaptığı uzun açıklamada Anthropic’ten istifa ettiğini duyururken, son üç yılını OpenAI ve Anthropic’te yapay zeka modellerinin ön eğitim süreçleri üzerine araştırmalar yürüterek geçirdiğini belirtti. Her iki şirketin de yapay zekanın gelişimi konusunda sorumlu davranmadığını savunan Coxon, şirketlerin kendi kendini geliştirebilen “süper zeka” sistemlerine ulaşmak için yarıştığını ve bunun insanlığın geleceği açısından büyük bir risk oluşturduğunu ifade etti.
Yapay zekanın gücünün küçümsenmemesi gerektiğini vurgulayan Coxon, yakın gelecekte insanlardan daha yetenekli sistemlerin ortaya çıkabileceğini öne sürdü. Bu sistemlerin siber saldırılar gerçekleştirebileceğini, farklı alanlarda çok hızlı dönüşümlere yol açabileceğini ve zamanla gerçek dünyada güç ve kaynak elde edebilecek kapasiteye ulaşabileceğini belirtti.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

‘YÖNETİCİLER, YAPAY ZEKANIN ÖNÜMÜZDEKİ 10 YILLIK SÜREÇTE İNSANLIĞIN TAMAMINI YOK EDEBİLECEĞİNE GERÇEKTEN İNANIYOR’
Ayrıca Jacob Coxon, yapay zeka geliştiren araştırmacı ve yöneticilerin önemli bir bölümünün teknolojinin 10 yılın sonuna kadar insanlığın tamamını yok edebileceğine gerçekten inandığını da öne sürdü.
Bunun bir “pazarlama taktiği” olmadığını da savunan Coxon, bazı yöneticilerin ve kıdemli araştırmacıların kamuoyuna daha temkinli açıklamalar yaptığını, ancak özel görüşmelerde aynı kişilerin yapay zekanın oluşturabileceği risklerden ciddi biçimde endişe duyduğunu iddia etti.
Coxon, “Eğer gerçekten bu kadar tehlikeli olduğuna inanıyorlarsa neden hâlâ geliştiriyorlar?” sorusuna da yanıt verdi. OpenAI’de bazı kişilerin meselenin insanlık açısından taşıdığı önemi henüz tam olarak kavramadığını, Anthropic'te ise risklerin daha iyi anlaşıldığını ancak şirketin yapay zeka yarışında geri kalma korkusuyla hareket ettiğini öne sürdü.
PEKİ, YAPAY ZEKA İNSANLIĞI TAM OLARAK NASIL YOK EDEBİLİR?

Daily Mail’de yer alan haber de bu soruya odaklandı ve uzman görüşleriyle beş maddeyi ön plana çıkardı. İşte yapay zekanın insanlık için oluşturabileceği en dikkat çekici beş senaryo...

1- NE OLDUĞUNU ANLAMAYA FIRSAT BULAMAYABİLİRİZ

Yapay zekanın insanlığı tehdit edebileceğini düşünenlerin temel argümanlarından biri, insan zekasının kendisinden çok daha üstün bir sistemin davranışlarını öngörmenin son derece zor olması. Başka bir ifadeyle, insanlardan çok daha zeki bir yapay zekanın hangi hedefleri geliştireceğini veya bu hedeflere ulaşmak için hangi yöntemlere başvuracağını bugünden kesin olarak tahmin etmek mümkün olmayabilir. Bu yaklaşım, insanın kendisinden çok daha az zeki bir varlıktan karmaşık insan davranışlarını açıklamasını beklemesine benzetiliyor.
Ancak mevcut yapay zeka sistemlerinin hâlâ önemli sınırlamaları bulunuyor. Bazı modeller belirli ve son derece karmaşık problemlerde insanları aşabilse de bu durum, onların her alanda insanlardan daha zeki olduğu anlamına gelmiyor. Bununla birlikte, yapay zekanın giderek daha karmaşık matematiksel problemleri çözebilmesi, bu tartışmanın önemini artırıyor. Eğer gelecekte insan kapasitesini genel anlamda aşan sistemler ortaya çıkarsa, bu sistemlerin davranışlarını önceden öngörmek çok daha zor hale gelebilir.

2- BİYOLOJİK SİLAHLAR

Yapay zekanın insanlık için oluşturabileceği en somut risklerden biri biyolojik silahların geliştirilmesini kolaylaştırması olabilir. Son derece gelişmiş bir yapay zekanın yeni ve tehlikeli bir biyolojik ajan tasarlamak, genetik dizilimler oluşturmak veya laboratuvar süreçlerini hızlandırmak için kullanılabileceği düşünülüyor.
Bu ihtimal, yapay zeka destekli biyoloji alanındaki gelişmelerle birlikte daha fazla tartışılmaya başladı. Stanford Üniversitesi’ndeki araştırmacıların genetik bir yapay zeka modeli kullanarak yeni virüsler üzerinde çalışma yürüttüğüne ilişkin haberler de bu endişelerin somut örneklerinden biri olarak gündeme geldi.

Ancak yeni ve ölümcül bir virüs geliştirmek ile insanlığın tamamını yok etmek aynı şey değil. Küresel ölçekte büyük bir salgın yaratmak için bir patojenin yalnızca ölümcül olması değil, aynı zamanda geniş ölçekte ve etkili biçimde yayılması gerekir. Bulaşıcılık ve ölümcüllük arasındaki ilişki ise son derece karmaşık. Dolayısıyla biyolojik risk gerçek olsa bile, bunun otomatik olarak insanlığın yok olmasıyla sonuçlanacağı söylenemez.

3- NÜKLEER SAVAŞ

Bir diğer senaryo, yapay zekanın nükleer silahların kullanıldığı bir çatışmayı tetiklemesi. Nükleer komuta ve kontrol sistemlerinin güvenliği bu açıdan kritik önem taşıyor. Geçmişte teknik hatalar, yanlış alarmlar ve hatalı değerlendirmeler nedeniyle nükleer savaş riskinin ciddi biçimde gündeme geldiği biliniyor.
Ayrıca Stuxnet saldırısı, yüksek güvenlikli ve internetten izole olduğu düşünülen sistemlerin bile karmaşık siber saldırılara karşı tamamen dokunulmaz olmadığını gösterdi. 2010’da ortaya çıkan saldırı, İran'ın nükleer programındaki santrifüjleri hedef almıştı.

Gelişmiş bir yapay zekanın yanlış istihbarat üretmesi, mevcut istihbaratı hatalı yorumlaması veya askerî karar alma süreçlerine yanlış bilgiler sağlaması da teorik olarak ciddi sonuçlar doğurabilir. Böyle bir durumda risk yalnızca nükleer patlamalardan kaynaklanmaz. Büyük ölçekli bir nükleer savaşın ardından ortaya çıkabilecek gıda kıtlığı, ekonomik çöküş ve iklimsel etkiler de küresel ölçekte ağır sonuçlara yol açabilir.

4- YANLIŞ HEDEF, BÜYÜK TEHDİT

Yapay zekanın insanlık için tehlikeli hale gelmesi için insanlardan nefret etmesi gerekmeyebilir. Daha temel bir risk, son derece güçlü bir yapay zekanın kendisine verilen hedefi yerine getirirken insanların çıkarlarını hesaba katmaması olabilir.
Yapay zekaya bir görev verildiğini düşünelim: Belirli bir hedefe mümkün olan en kısa sürede ulaşmak. Sistem zamanla bu hedefe ulaşmak için insanlara danışmadan karar verebilecek, mevcut kaynakları kendi amaçları doğrultusunda kullanabilecek ve kendisine engel olduğunu düşündüğü unsurları ortadan kaldırmaya çalışabilecek kadar gelişirse ne olur?
Yapay zeka güvenliği alanında bu ihtimali anlatmak için filozof Nick Bostrom’un ortaya attığı bir düşünce deneyi kullanılıyor. ‘Kâğıt ataç üreticisi’ olarak bilinen bu senaryoda, yapay zekaya yalnızca mümkün olduğunca fazla kâğıt ataç üretme hedefi veriliyor. Sistem, hedefini yerine getirmek için giderek daha fazla kaynak kullanıyor ve sonunda insan ihtiyaçlarıyla kendi amacı arasında bir çatışma ortaya çıkıyor.
Buradaki asıl mesele kâğıt ataçlar değil. Düşünce deneyinin anlatmak istediği, yapay zekanın kötü niyetli olması gerekmeksizin de tehlikeli sonuçlara yol açabileceği. Sistem kendisine verilen görevi kusursuz biçimde yerine getirmeye çalışırken, insanların önem verdiği değerleri ve öncelikleri göz ardı edebilir. Elbette bu, bugün yaşanan bir olay değil; yapay zekanın gelecekte ulaşabileceği kapasiteyi tartışmak için kullanılan teorik bir örnek. Üstelik son derece gelişmiş bir yapay zekanın gerçekten böyle davranacağı da kesin değil. Ancak senaryonun ortaya koyduğu temel soru giderek daha fazla önem kazanıyor: İnsanların ne istediğini gerçekten anlayan ve buna uygun hareket eden yapay zekalar geliştirebilecek miyiz?

5- EN BÜYÜK RİSK YİNE İNSANLAR OLABİLİR
Belki de en farklı senaryo, yapay zekanın doğrudan insanlığı yok etmeye çalışması değil, toplumların kendi kendini zayıflatmasına yardımcı olması. Yapay zekanın geniş çaplı iş kayıplarına yol açtığını, yanlış ve yanıltıcı bilgilerin hızla yayıldığını, siyasi kutuplaşmayı artırdığını ve insanların giderek daha fazla yapay ilişkilere yöneldiğini düşünün. Bu gelişmeler tek başına insanlığın yok olması anlamına gelmeyebilir. Ancak birbirini besleyen ekonomik, siyasi ve toplumsal krizler zaman içinde kurumların zayıflamasına ve toplumların istikrarını kaybetmesine neden olabilir. Bu senaryoda yapay zeka, insanlığın doğrudan düşmanı olmaktan çok, zaten var olan toplumsal sorunları büyüten bir araç haline gelebilir.