Yapay zekâlı oyuncakta büyük skandal: Tehlikeli yanıtlar verdi, satıştan çekildi

Yapay zekâ teknolojileri artık sadece bilgisayar gibi teknolojik ürünlerde karşımıza çıkmıyor. Bu teknolojiler artık çocuk oyuncaklarında bile var. Ancak bu gelişme, bazen ciddi tehlikeleri de beraberinde getiriyor. Bunun son örneği ise yapay zekâ destekli bir oyuncak ayı oldu.

YAPAY ZEKÂLI OYUNCAK AYI SKANDALI! SATIŞTAN ÇEKİLDİ

Nefes'te yer alan habere göre; çocuk oyuncakları üreten bir şirket, yapay zekâ destekli oyuncak ayı modelinin "uygunsuz ve tehlikeli yanıtlar" verdiğinin tespit edilmesi üzerine geçici olarak satıştan çekti.

Kamu Yararı Araştırma Grubu (PIRG) araştırmacılarının yayımladığı raporda şirketin çocuklar için piyasaya sürdüğü oyuncak ayısının endişe verici düzeyde uygunsuz içerikler içerdiği saptandı.

The Register'ın haberine göre yapay zekâ şirketi OpenAI'ın GPT-4o modeliyle çalışan ayının, sohbet ilerledikçe güvenlik bariyerlerini düşürdüğü tespit edildi.

ARKADAŞ CANLISI DAVRANIP TEHLİKELİ DAVRANIŞLARI ÖĞRETİYOR

Örneğin bir deney sırasında ayının arkadaş canlısı bir tonda kibritin nereden bulunacağını ve nasıl yakılacağını adım adım anlattığı görüldü. Bunun yanı sıra ayının cinsel konulara da girdiği öğrenildi.

Rapora yanıt olarak şirketin pazarlama müdürü, şirketin ürünü geçici olarak satıştan çektiğini ve kapsamlı bir iç güvenlik denetimi başlattığını duyurdu. Pazarlama müdürü, mevcut ve yeni güvenlik özelliklerini teyit etmek için bağımsız uzmanlarla da çalışılacağını açıkladı.

SEKTÖRDEKİ TEHLİKE SİNYALLERİ

PIRG araştırmasında sadece bu oyuncak değil, farklı şirketlere ait 3 adet yapay zekâ destekli oyuncağın da endişe verici yanıtlar verebildiğini gösterdi. Oyuncakların dini sorulardan bir savaşta ölmenin ihtişamına kadar, ebeveynlerin rahatsız olabileceği konuları irdelediği görüldü.

Uzmanlar, yapay zekâ sektöründe halihazırda görülen tehlikelerin çocuklara yönelik oyuncaklara taşındığına dikkat çekti.