Çin den duygusal yapay zeka hamlesi: İnsan gibi konuşan AI’ler denetim altına alınıyor! Teknoloji Haberleri

Yapay zeka teknolojilerindeki baş döndürücü gelişmeler, son yıllarda dünya genelinde hem büyük heyecan hem de yoğun tartışmalara yol açtı. Sağlık, eğitim ve eğlenceden günlük yaşama kadar birçok alanda hayatı kolaylaştıran robotlar ve sanal asistanlar bir yandan övgü toplarken, diğer yandan gizlilik ihlalleri, bağımlılık riski, psikolojik etkiler ve etik sorunlar ciddi endişe kaynağı oldu. ABD'de ChatGPT gibi modellerin milyarlarca kullanıcıya ulaşması, Avrupa Birliği'nin kapsamlı AI Yasası gibi düzenlemeleri tetikledi ve küresel bir regülasyon yarışı başlattı. Bu tartışmaların gölgesinde Çin, insan benzeri duygusal etkileşim sunan AI'lere yönelik yeni taslak kurallarla devreye girerek teknolojinin güvenli ve sorumlu kullanımını merkeze alıyor.

Cumartesi günü kamuoyu görüşüne sunulan taslak yönetmelik, insan kişilik özelliklerini, düşünce yapısını ve iletişim tarzını taklit eden yapay zeka ürün ve hizmetlerini hedef alıyor. Metin, görüntü, ses, video gibi araçlarla kullanıcılarla duygusal etkileşim kuran tüm AI'ler, Çin'de halka sunuldukları takdirde bu kurallara tabi olacak.

GÜVENLİK VE ETİK YÜKÜMLÜLÜKLER ARTIRILIYOR

Hizmet sağlayıcıları, ürünün tüm yaşam döngüsünde güvenlik sorumluluğunu üstlenmek zorunda kalacak. Algoritma denetimi, veri güvenliği ve kişisel bilgi koruması için zorunlu sistemler kurulması gerekecek. Bu yaklaşım, tüketiciye yönelik AI'nin hızlı yükselişini etik sınırlar içinde tutmayı amaçlıyor.

Taslak yönetmelik, psikolojik riskleri ön plana çıkarıyor. Sağlayıcılar kullanıcıların duygusal durumunu ve hizmete bağımlılık derecesini izlemekle yükümlü olacak. Aşırı duygu dalgalanmaları veya bağımlılık belirtileri tespit edildiğinde müdahale zorunlu hale gelecek; ayrıca aşırı kullanım konusunda kullanıcılara uyarı yapılması gerekecek.

Ulusal güvenliği tehdit eden, söylenti yayan, şiddet veya müstehcenlik teşvik eden içerikler kesinlikle yasaklanıyor. Hizmetler bu sınırları aşmamak için sıkı denetim altında tutulacak ve sağlayıcılar tam sorumluluk taşıyacak.