Microsoft tan yapay zekaya yeni kurallar

Microsoft'un "Hümanist Yapay Zeka Davranış Kuralları" başlığıyla yayımladığı taslağa göre, şirketin yapay zeka modellerinin güvenli şekilde ve insan kontrolü altında kalması hedefleniyor.

Taslak, yapay zeka modellerinin insan kontrolünü aşmaması ve insanlığa tabi kalarak anlamlı bir gözetim altında çalışmasını öngörüyor.

Yapay zekada ‘fren’ ittifakı Haberi Görüntüle

Modellerin, silah üretimine ilişkin taleplere yardımcı olmaması, tehlikeli maddelerin temin edilmesini kolaylaştırmaması ve şiddet içeren ya da cinsel açıdan açık içerikler üretmemesi hedefleniyor.

Microsoft, kamuoyuyla paylaştığı taslak ile ilgili altı hafta boyunca görüş alacak. Yıl sonunda revize edilmesi planlanan taslak, 2027'den itibaren şirketin yapay zeka modellerinin geliştirilmesine rehberlik edecek.

Microsoft'un taslağı, ABD'li yapay zeka şirketleri Anthropic'in Üst Yöneticisi Dario Amodei ve OpenAI Üst Yöneticisi Sam Altman'ın yapay zekanın güvenliğini sağlamak amacıyla modellerin geliştirilme hızının kontrollü biçimde yavaşlatılması yönündeki çağrılarının ardından geldi.

ESKİ ANTROPIC ÇALIŞANINDAN 2030 UYARISI

Çarşamba günü eski bir Anthropic çalışanı, yapay zekanın 2030 yılına kadar insanlığın yok olmasına yol açabileceği uyarısında bulundu. Eski Anthropic çalışanı Jacob Coxon, Anthropic ve daha önce çalıştığı OpenAI’nin yapay zekanın oluşturduğu tehdide yönelik tepkileri görmezden geldiğini veya yanlış yönettiğini düşündüğü için işinden ayrıldığını söyledi. Amodei, eski çalışanın görüşlerinin sorulması üzerine Coxon ile birçok konuda aynı fikirde olduğunu ifade etti. Yapay zekanın kontrolden çıkma ihtimali bulunduğunu ancak bu ihtimalin çok yüksek olmadığını belirtti. Amodei, CNN'e yaptığı açıklamada ise yapay zeka konusunda “kötümser” olmadığını ve bu teknolojinin güvenli şekilde geliştirilebileceğini düşündüğünü söyledi.