Yapay zekayı durdurma çağrılarına yenileri ekleniyor

Yapay zeka teknolojilerinin kendi kodlarını yazarak "insansız şekilde evrimleşebileceği" eşiğe yaklaşmasıyla beraber ülkeler ve şirketler önlem alma konusunda çeşitli çağrılarda bulunuyor.

ABD'li yapay zeka şirketi Anthropic, yayımladığı "When AI builds itself" (Yapay zeka kendini ürettiğinde) başlıklı makalesiyle yapay zekanın geldiği son noktayı gözler önüne serip bu çağrılara katıldı.

Şirket tarafından paylaşılan verilere göre, bir yapay zeka modelinin insan müdahalesi olmaksızın kendi halefini tasarlayıp eğitebildiği teorik eşiğin aşılmasının sanılandan çok daha yakın olduğu ve otonom yazılım döngülerinin kurulduğu belirtildi.

Anthropic, yapay zekanın kendi kodlarını kendisinin oluşturması sürecinde büyük bir gelişme yaşandığına dikkati çekerek, Claude yazılım sisteminin kendi üretim kod tabanına entegre edilen kodların yüzde 80'inden fazlası doğrudan modelin kendisi tarafından yazıldığını ve bu oranın 2025 yılı başlarında tek haneli rakamlarda olduğunu vurguladı.

Yapay zekanın 5 aşamalı yolculuğunda 4. aşamadayız

Şirket, raporunda yapay zekadaki gelişimi 5 aşamaya bölüyor. İlk aşamada Claude'de çalışmanın tıpkı normal bir şirkette çalışmak gibi olduğu belirtilirken, 2023 ile 2025 dönemini kapsayan ikinci aşamada çalışanların artık üretken yapay zekalardan yardım alarak kod yazdıklarını, 2025-2026 dönemini kapsayan üçüncü aşamada ajan yapay zekaların kendi kendine kod yazabilir hale geldiğini, bugün gelinen durumda kodları kendi kendine çalıştıran ve işleri diğer yapay zekalara devredebilen bir konuma geldiğine işaret ediliyor.

Şirketin son aşama olarak tahmin ettiği 5. aşamada ise ajanların kendi başlarına modeller oluşturup eğitebilecek kadar yetenekli hale geleceği ve bunun gerçekleşmesi durumunda yapay zekanın gelecekteki sürümlerinin bizzat kendisi tarafından sürekli olarak geliştirilebileceği belirtiliyor.

"Yapay zekayı durduralım" çağrıları yükseliyor

Anthropic şirketinin yanı sıra dünya çapında daha önce de yapay zekanın durdurulması yönünde pek çok çağrı yapıldı. Future of Life Institute (FLI) tarafından Mart 2023'te yayımlanan ve aralarında ABD'li iş insanı Elon Musk gibi ünlü figürlerin de bulunduğu kişiler tarafından imzalanan mektuba göre, yapay zeka laboratuvarlarına GPT-4'ten daha güçlü sistemlerin eğitimini en az 6 ay süreyle derhal durdurma çağrısı yapılmıştı.

Mektupta, insan zekasıyla yarışan yapay zeka sistemlerinin toplum, ekonomi ve demokrasi için derin riskler barındırdığı vurgulanırken, dezenformasyon dalgası, kitlesel iş kayıpları ve en nihayetinde "medeniyetin kontrolünü kaybetme" riski gibi distopik senaryolara dikkat çekilmişti.

Yapay zeka alanında benzer bir çağrının geçen mayıs ayında Papa 14. Leo'dan gelmesi tüm dünyada geniş yankı uyandırdı. Papa, "Magnifica Humanitas (Muhteşem İnsanlık)" adıyla yayımladığı genelgeyle yapay zekanın yalnızca teknik olarak durdurulmasını değil, askeri, ekonomik ve bilişsel rekabet zihniyetinden arındırılarak silahsızlandırılmasını talep etti.

Yapay zeka yatırımları artarak devam ediyor

Yapay zekanın durdurulması konusundaki çağrılar giderek artarken, küresel yapay zeka pazarı, tarihin en hızlı büyüyen teknoloji sektörlerinden biri haline geldi. Sektöre yapılan yatırımların ve harcamaların boyutu, sistemlerin durdurulmasını engelleyen en büyük engellerden biri olarak görülüyor.

Gartner tarafından Mayıs 2026'da yayımlanan yapay zeka raporuna göre, küresel yapay zeka harcamalarının 2026 yılında 2,59 trilyon dolara ulaşması bekleniyor. Bu rakam, 2025 yılındaki 1,76 trilyon dolarlık harcamaya kıyasla yüzde 47 oranında devasa bir yıllık büyümeye işaret ediyor. Şirket, yapay zeka harcamalarının 2027 yılında yaşayacağı artışla 3,49 trilyon dolara yükseleceğini öngörüyor.