Yapay zekâ kontrolden çıkabilir Teknoloji Haberleri

Yapay zekânın geleceğine ilişkin dikkat çekici bir uyarı yapan Anthropic, insan müdahalesi olmadan kendi haleflerini geliştirebilen sistemlerin beklenenden erken ortaya çıkabileceğini açıkladı. Şirket, bu teknolojinin denetim eksikliği nedeniyle ciddi riskler barındırdığını duyurdu.

İşimizi elimizden alıp almayacağını tartıştığımız yapay zekâ, insan müdahalesi olmadan kendini geliştirme ve haleflerini üretme seviyesine ulaştı. Yapay zekânın gelecekte insanlığın kontrolünden çıkabileceğine yönelik tartışmaları öne çeken kritik bir uyarı geldi. Yapay zekâ şirketi Anthropic, yapay zekâ sistemlerinin insan müdahalesine ihtiyaç duymadan kendini geliştireceği bir döneme doğru gidildiğini açıkladı. Şirketin kurucu ortaklarından Jack Clark ve Anthropic Enstitüsü Başkanı Marina Favaro tarafından kaleme alınan blog yazısında, yazılım geliştirme ve araştırma faaliyetlerinin giderek daha fazla yapay zekâya devredildiği, bunun da gelişim hızını önemli ölçüde artırdığı belirtildi.

KENDİ HALEFİNİ ÜRETEBİLİR

Yazıda, gelecekte söz konusu sistemlerin kendi haleflerini tasarlayıp geliştirebilecek seviyeye ulaşmasının mümkün olduğu ifade edildi. "Özyinelemeli kendini geliştirme" olarak adlandırılan bu sürecin kaçınılmaz olmadığı vurgulandı. Kontrolden çıkma riskinin beklenenden daha önce gerçekleşebileceği değerlendirmesine de yer verildi. Anthropic, bu tür sistemlerin büyük fayda sağlayabileceğini ancak insan denetiminin zayıflaması riski olduğunu kaydetti.

GAZ PEDALI VAR AMA FRENİ YOK

Önceki akşam bir TV kanalında uyarısını yineleyen Jack Clark, "Yapay zeka endüstrisinin gaz pedalı var ama fren pedalı yok gibi" dedi. Anthropic, ileri düzey yapay zekâ çalışmalarının yavaşlatılması veya geçici olarak durdurulması seçeneğinin de değerlendirilmesi gerektiğine dikkat çekti. Antrophic’in yapay zekâ asistanı Claude’in alt markası Opus 4.6 modelinin %80’ini bir önceki model 4.5 üretmişti. Uzmanlara göre, insan katkısı sıfıra indiğinde yapay zekâ kodları değiştirip kendi kurallarını koyabilir. Bu bilim kurgu filmlerinin gerçek olmasına yol açabilir. Şirket, güvenlik açıklarını bulan Mythos modelini, sonuçlarından çekindiği için piyasaya sürmemişti.