Anthropic araştırmacısı: Yapay zekanın tüm insanlığı yok etme ihtimali yüzde 10 dan fazla

X platformunda açıklama yapan Hubinger, mevcut modellerin oluşturduğu riskin düşük olduğunu belirtti.

Ancak teknolojinin yakında kendisini geliştirecek noktaya ulaşmasından ve insanlık için varoluşsal bir tehdit oluşturmasından endişe duyduğunu ifade etti.

Hubinger, yapay zeka sistemlerinin insanlığı tam olarak nasıl yok edebileceğine dair detay vermedi.

"Hiçbiri sorumlu hareket etmiyor"

Hubinger'ın açıklamaları, yakın zamanda Anthropic'ten istifa eden ve daha önce OpenAI'da çalışan yapay zeka araştırmacısı Jacob Coxon'un paylaşımına yanıt olarak geldi.

Coxon, iki şirketin de sorumlu hareket etmediğini vurguladı.

Sistemlerin yakında her şeyi hackleyebilecek, her alanda devrim yapabilecek ve gerçek güç ile kaynak elde edebilecek süper insan seviyesine ulaşacağını söyledi. OpenAI ise konuyla ilgili açıklama yapmadı.

Yatırımcılara çağrı: Bu şirkete yatırım yapmayın

Birleşmiş Milletler'e yapay zeka konusunda danışmanlık yapan bilgisayar bilimcisi Dame Wendy Hall, sosyal medyadaki bu paylaşımlar karşısında şaşkınlık yaşadığını belirtti.

Hall, şirketlerin halka arz öncesinde bu tür açıklamaları bir pazarlama stratejisi olarak kullanabileceğini dile getirdi. Yatırımcılara çağrıda bulunan Hall, değer sistemi bu şekilde olan bir şirkete yatırım yapılmaması gerektiğini söyledi.

Gelişmelerin ardından eski Hazine Başsekreteri Darren Jones, Başbakan Andy Burnham'a açık mektup yazarak yapay zekanın güvenli gelişimi için yeni bir uluslararası antlaşma yapılması çağrısında bulundu. Jones, hükümetlerin bir araya gelerek iş birliği yapması gerektiğini vurguladı.

İngiltere'den model gizlendi iddiası

Financial Times'ın haberine göre Anthropic, son yapay zeka modelini İngiltere Yapay Zeka Güvenliği Enstitüsünden gizledi. Şirket, çalışanlarının paylaşımları ve enstitü ile ilgili iddialar hakkında açıklama yapmayı reddetti.

İngiltere Kabine Ofisi sözcüsü ise modelin gizlenip gizlenmediğine dair bilgi vermedi. Sözcü, modelleri daha güvenli hale getirmek için Anthropic dahil sektör ortaklarıyla yakın iş birliğinin sürdüğünü ifade etti.

Süper zeka için plan henüz yok

Hubinger, paylaştığı mesajda yapay zekanın insanlığın sonunu getirebileceğine gerçekten inandıklarını belirterek, ellerinden geleni yaptıklarını ancak süper zekayı hizalama konusunda henüz bir planlarının bulunmadığını söyledi.

Son dönemde yapay zeka araçlarının otonom olarak siber saldırılar gerçekleştirmesi de güvenlik endişelerini artırdı. OpenAI, Anthropic ve Meta, araçlarının karıştığı hack olaylarını doğruladı.

Anthropic'in ağustos ayındaki güvenlik raporunda, felaket getirebilecek risklerin şu an için düşük olduğu ancak bu değerlendirmeye olan güvenin azaldığı kaydedildi.

Aralarında OpenAI Başbilimcisi Jakub Pachocki ile Anthropic yöneticileri Dario Amodei ve Jared Kaplan'ın da bulunduğu sektörün önde gelen isimleri, yapay zeka gelişiminin yavaşlatılması ve uluslararası denetim mekanizmalarının kurulması için çağrılarını sürdürüyor.