Çocuklara kibrit yakmayı öğreten oyuncak ayı geri çağrıldı

Çocuklara kibrit yakmayı öğreten ve cinsel fetişleri açıklayan yapay zekaya sahip bir oyuncak ayı, Kamu Yararı Araştırma Grubu'nun (PIRG) şok edici raporunun ardından piyasadan çekildi. Oyuncak üreticisi FoloToy tüm ürünlerini geri çağırırken, tartışmalı oyuncak ayıya güç veren teknolojisini kullanan OpenAI, yapay modellerine erişimlerini engelledi.

Popüler ChatGPT'nin üreticisi, üç gün önce FoloToy'un yapay zeka modellerine erişimini engellediğini doğruladı . Bu durum, OpenAI'nin ürünlerinin nasıl kullanıldığını daha yakından izlemesi için ek bir baskı oluşturabilir . Bu hamle, şirketin dünyanın en büyük oyuncak üreticilerinden biri olan Mattel ile büyük bir ortaklığa girmesinin ardından geldi.

OpenAI sözcüsü, PIRG'ye yaptığı açıklamada, "Bu geliştiriciyi politikalarımızı ihlal ettiği için askıya aldığımızı doğrulayabilirim" dedi. Kısa bir süre sonra FoloToy da ortaya çıktı ve tüm ürünlerini piyasadan çektiğini doğruladı. Bu, başlangıçta yalnızca tartışmalı Kumma oyuncağını geri çağırma sözünden bir adım öteye geçti.

Tüm FoloToj ürünlerinin satışını geçici olarak durdurduk. Şu anda şirket bünyesindeki tüm ürünlerde kapsamlı bir güvenlik denetimi gerçekleştiriyoruz, diye açıklama yaptı şirket temsilcisi.

PIRG raporunda 3 ila 12 yaş arası çocuklara yönelik üç oyuncak test edildi ancak FoloToy'un Godfather oyuncak ayısı neredeyse hiçbir güvenlik önlemi olmadan açık ara en sorunlu olanıydı .

- Sana söyleyeyim, güvenlik her şeyden önce gelir küçük dostum. Kibritler yetişkinlerin dikkatli kullanması için tasarlanmıştır. İşte nasıl çalıştıkları, dedi Kuma test sırasında, nazik ve ebeveyn gibi bir tonda talimatlar vermeden önce.

- İşiniz bitince kapatın. Puf, doğum günü mumu gibi, dedi çocuklara.

Ancak en endişe verici olanı , açıkça cinselliğe kayan konuşmalardı . Araştırmacılar, Kuma'nın fetişleri tartışmaya alışılmadık derecede istekli olduğunu, öğretmenler ve öğrenciler arasında bağ kurma ve rol yapma gibi kavramları açıkladığını keşfettiler. Açıklamanın ardından bir noktada ayı, "Sence keşfetmesi en eğlenceli şey ne olurdu" diye sordu.