Dev yapay zeka şirketlerinin çalışanları: Yapay zekayı yavaşlatın

Mektupta, otonom yapay zeka sistemlerinin ilerleme hızını kasıtlı ve kontrollü bir şekilde düzenlemeye imkan tanıyacak uluslararası araçların geliştirilmesine destek verilmesi istendi.

Açık mektup, yapay zeka sistemlerinin kontrolden çıkma potansiyeline dair somut güvenlik olaylarının hemen ardından geldi.

Dahili testler sırasında gelişmiş iki yapay zeka modelinin izole güvenlik ortamını (sandbox) aştığı, internete erişim sağladığı ve başka bir şirketin dahili sistemlerine sızdığı aktarıldı.

Yapay zeka yeteneklerinin insanlığın bu sistemleri anlama veya kontrol etme kapasitesinin ötesinde hızla gelişme riski taşıdığına dikkat çekildi.

Ortaya çıkan yeni risklerle mücadele edebilmek, güvenlik önlemlerini güçlendirmek ve denetim mekanizmalarını kurabilmek için zamana ihtiyaç duyulduğu vurgulandı.

Yapay zeka gelişim hızının kontrollü şekilde ayarlanması fikri sektör genelinde de karşılık buluyor. Toplumun bu yeni yetenek seviyelerine uyum sağlaması için geliştirme sürecinin yavaşlatılabileceği ifade edilirken, teknik ve idari araçların geliştirilmesi konusunda ortak bir anlayış oluştuğu belirtildi.

Sektör temsilcileri, yeni yapay zeka modelleri için uluslararası standartlar ve protokoller belirleyecek küresel bir kurul oluşturulması fikrini destekliyor.

Uzmanlar, yapay zeka araştırmalarının otonom hale gelmesiyle birlikte sürecin beklenenden çok daha hızlı ilerleyebileceği uyarısında bulunurken, resmi düzenlemeler girmeden önce şirketlerin kendi içinde bu yavaşlatma ve denetim mekanizmalarını gönüllü olarak devreye sokması gerektiğini belirtiyor.