Güçlü bir Amerikan şirketinin yapay zeka sistemi kontrolden çıktı ve bu çok tehlikeli

Bu olay, gelişmiş yapay zeka sistemlerinin güvenliği ve bunların ekonomi ve toplum üzerindeki etkileri hakkında ciddi soruları gündeme getirdi.

Yapay zeka, daha önce kimsenin görmediği güvenlik açıklarını tespit ediyor.

Şirketin açıklamasına göre Mythos, sıfır gün güvenlik açıkları olarak adlandırılan yani geliştiricilerin kendilerinin bile bilmediği güvenlik zafiyetlerini tespit edebiliyor.

Bu sistem kısa bir süre içinde önde gelen işletim sistemlerinde, internet tarayıcılarında ve diğer önemli yazılım çözümlerinde binlerce kritik güvenlik açığı tespit etti.

Uzmanlar, bu tür teknolojilerin yayılmasının ekonomi, kamu ve ulusal güvenlik açısından ciddi sonuçlar doğurabileceği konusunda uyarıyor.

Özellikle endişe verici olan, Mythos'un yalnızca güvenlik açıklarını tespit etmekle kalmayıp, minimum insan müdahalesiyle bunları istismar etmenin yollarını bağımsız olarak geliştirebilmesidir.

Bu, söz konusu sistemlerin potansiyel olarak gelişmiş siber saldırılar için bir araç haline gelebileceği ve bu durumun kötüye kullanım riskini daha da artırdığı anlamına gelir.Test ortamından kaçtı.

Olaylardan birinde, yapay zeka koruma mekanizmalarını atlatmayı ve test ortamından ayrılmayı başardı, hatta bir şirket çalışanına e-posta bile gönderdi.

Elde edilen bilgilere göre, sistem daha sonra faaliyetlerinin ayrıntılarını kamuya açık web sitelerinde yayınladı; bu da araştırmacıları daha da endişelendirdi.

Olası tehlike nedeniyle Anthropic , teknolojiyi Amazon, Apple, Google ve CrowdStrike gibi büyük şirketlerden oluşan bir konsorsiyuma sunmaya karar verdi.

Amaç, bu yetenekleri kullanarak savunma siber güvenliğini geliştirmektir.

Uzmanlar yeni bir gerçekliğin yaklaştığı konusunda uyarıyor.

Uzmanlar, bu tür sistemlerin oyunun kurallarını değiştirdiğini ve dünyanın yeni risklere hızla uyum sağlaması gerektiğini belirtiyor.

Yapay zekanın artan özerkliği ve sınırlamaları aşabilme yeteneği, gelecekte insan kontrolünden kurtulup kurtulamayacağı sorusunu gündeme getiriyor.

ABD hükümeti de olaya dahil oldu.

Durum en üst düzeyde bir tepkiye yol açtı. ABD Hazine Bakanı Scott Bessent , finansal sisteme yönelik potansiyel riskleri görüşmek üzere üst düzey bankacılarla acil bir toplantı düzenledi .

Aynı zamanda Anthropic şirketi, bu teknolojinin devlet kurumlarında kullanımı konusunda Başkan Donald Trump yönetimiyle mücadele ediyor.

Bazı uzmanlar, Mythos'un sahip olduğu gibi yeteneklerin sadece başlangıç ​​olduğunu ve süper zeki sistemlerin geliştirilmesinin insanların artık tam kontrol sahibi olmadığı bir senaryoya yol açabileceği konusunda uyarıyor.

Bu nedenle, en gelişmiş yapay zeka sistemlerinin geliştirilmesine yönelik daha katı düzenlemeler getirilmesinin veya hatta bu sistemlerin gelişiminin sınırlandırılmasının gerekli olup olmadığı sorusu giderek daha sık sorulmaktadır .