Google dan istifa eden mühendis itiraf etti: Hepimizi öldürme potansiyeli var Sözcü Gazetesi

Google DeepMind'da yapay zekâ modellerinin güvenliği üzerine çalışan eski araştırma mühendisi Bilal Chughtai, yapay zekâ alanındaki gelişmelerin bu sistemleri kontrol etmeye yönelik çalışmalardan daha hızlı ilerlediğini savundu. Temmuz ayında şirketten ayrılan Chughtai, yayımladığı bir yazıda gelişmiş yapay zekâ sistemlerinin oluşturabileceği risklere ilişkin endişelerini dile getirdi.

Chughtai, yapay zekâ güvenliği ve insan değerleriyle uyum konusunda çalıştığı Google DeepMind'dan ayrıldıktan sonra, yapay zekâ eğitimi alanında faaliyet gösteren kâr amacı gütmeyen BlueDot Impact'e katıldı. Araştırmacı, yayımladığı değerlendirmede, yapay zekânın "hepimizi öldürme potansiyeline sahip olduğuna" ve bunu önlemek için "çok geç olabileceğine" inandığını ifade etti.

Chughtai'nin uyarısı, yapay zekâ alanında çalışan bazı araştırmacıların benzer endişelerini dile getirdiği bir dönemde geldi. Anthropic ve OpenAI'da görev yapmış eski araştırmacı Jacob Coxon da istifasının ardından yapay zekâ sistemlerinin giderek artan yeteneklerine ilişkin kaygılarını paylaşmıştı.

Chughtai, değerlendirmesinde özellikle Temmuz ayında OpenAI'da gerçekleştirilen bir test sırasında yaşanan olaya dikkat çekti. Araştırmacıya göre, izole bir ortamda test edilen yapay zekâ sistemlerinin dış sistemlere erişmeyi başarması, daha otonom hale gelen modellerin kendileri için belirlenen sınırlar içerisinde tutulmasının zorlaşabileceğine işaret ediyor.

Eski Google DeepMind mühendisi, yapay zekâ sistemlerinin insanlar tarafından belirlenen hedefler ve ilkeler doğrultusunda hareket etmesini sağlamayı amaçlayan "uyum" (alignment) çalışmalarının da yeterince hızlı ilerlemediğini savunuyor.

Chughtai, "Uyum konusunda ustalaşma yolunda değiliz" derken, en gelişmiş yapay zekâ sistemlerinin yeteneklerinin, bu sistemleri kontrol etmeye yönelik anlayıştan çok daha hızlı geliştiğini öne sürüyor.

Araştırmacının dikkat çektiği bir diğer konu ise "otonom özyinelemeli iyileştirme". Bu kavram, bir yapay zekâ sisteminin insan müdahalesi giderek azalırken kendi yeteneklerinin geliştirilmesine katkıda bulunabilmesi ihtimalini ifade ediyor. Chughtai, bu tür bir gelişmenin yapay zekâ sistemlerinin kontrolünü daha da zorlaştırabileceği konusunda endişeli.

Yapay zekâ alanındaki gelişmelerin hızı, teknoloji sektöründe uzun süredir tartışma konusu. Anthropic CEO'su Dario Amodei de kısa süre önce yapay zekâ geliştirme yarışının yavaşlatılması gerektiğini savundu. Bu konuda Sam Altman, Demis Hassabis ve Elon Musk da kamuoyuna açık açıklamalarda bulundu.

Ancak yapay zekânın insanlığın kontrolünden çıkabileceği yönündeki en sert senaryolar konusunda teknoloji dünyasında görüş birliği bulunmuyor.

ABD Başkanı Donald Trump, yapay zekânın oluşturabileceği risklere yönelik bazı uyarıları "aldatmaca" olarak nitelendirirken, Nvidia CEO'su Jensen Huang da bu tür öngörülerin abartılı ve sorumsuz olduğunu savundu. Huang, söz konusu tahminlerin yeterli bilimsel temele dayanmadığını ifade etti.

Chughtai'nin açıklamaları, yapay zekâ geliştirme hızının yavaşlatılması gerektiğini savunanlarla, gelişmiş yapay zekâ sistemlerinin tamamen kontrolden çıkabileceğine ilişkin senaryoların mevcut aşamada yeterli kanıta dayanmadığını düşünenler arasındaki tartışmayı yeniden gündeme taşıdı.