Anthropic kurucusundan yapay zeka uyarısı: Denetim teknoloji şirketlerine bırakılamaz Sözcü Gazetesi

Yapay zeka şirketi Anthropic'in kurucu ortağı Christopher Olah, yapay zekanın geliştirilmesinin yalnızca teknoloji şirketlerine bırakılamayacağını belirterek, dini topluluklar, hükümetler ve sivil toplumdan daha fazla denetim yapılmasını istedi.

Olah, Vatikan Devlet Başkanı Papa 14. Leo'nun, yapay zeka ve gelişen teknolojiler karşısında insanın, insanlık onurunun korunmasına yönelik ilkeler içeren ve Katolik Kilisesinin bu konudaki yaklaşımını ortaya koyan "Magnifica Humanitas (Muhteşem İnsanlık)" adlı papalık belgesini yayınlamasının ardından değerlendirmelerde bulundu.

Genelgenin sunumuna katılan yapay zeka şirketi Anthropic'in kurucu ortağı Olah, yapay zekaya ilişkin gelişmelerin yalnızca bilgisayar mühendisleri ve uzmanlar tarafından ele alınmasının yeterli olmayacağını vurguladı.

Olah, "Birçok kişi, yapay zekaya dair meselelerin sadece mühendisler tarafından değerlendirilmesinin en doğru yaklaşım olduğunu düşünebilir ancak bu yanlış. Yapay zekanın ortaya çıkardığı sorular, araştırma camiasının sınırlarını aşıyor." ifadelerini kullandı.

Yapay zeka sistemlerinin bir köprü ya da uçak gibi tamamen insan kontrolünde tasarlanmış yapılar olmadığını belirten Olah, yapay zekanın mühendislerin sınırlarını aştığını kaydetti.

Bu sistemlerin insan sözleri ve düşüncelerinden beslendiğini dile getiren Olah, yapay zekanın onu geliştirenler için bile gizemini koruduğunu söyledi.

Olah, bu durumun bilgisayar mühendislerinin sınırlarını aşan etik ve toplumsal soruları beraberinde getirdiğine dikkati çekti.

Yapay zeka çalışmalarının büyük ölçüde birkaç zengin ülkede yoğunlaştığını kaydeden Olah, "Bu teknolojinin kazanımlarının tüm dünyayla adil şekilde paylaşılmasını sağlayacak bir mekanizmamız henüz yok." dedi.

Olah, dini topluluklar, akademisyenler, hükümetler, sivil toplum kuruluşları ve tüm insanların yapay zekayı daha yakından incelemesi gerektiğini belirtti.

Papa 14. Leo, daha önce sıkça uyarılarda bulunduğu yapay zeka ve gelişen teknolojiler üzerine yazdığı papalık dönemindeki ilk genelgesini törenle kamuoyuna duyurmuştu. Papa, genelgenin sunumuna katılan yapay zeka şirketi Anthropic'in kurucu ortağı Christopher Olah’a özel olarak teşekkür etmişti.

"Güvenli yapay zeka" yaklaşımıyla öne çıkan yapay zeka şirketi Anthropic, farklı tartışmaların odağında bulunuyor.

ABD Savunma Bakanlığı (Pentagon), Anthropic şirketinin bir yapay zeka modeli olan "Claude"u askeri tam otonom silah sistemleri ve kitlesel iç gözetimde sınırsız olarak kullanmak istemesine şirketin izin vermemesi üzerine, ilişkiyi feshetme tehdidinde bulunmuştu.

Yargıya taşınan tartışmada Claude'u sınırsız bir şekilde kullanmak isteyen Pentagon, Anthropic’i "ulusal güvenlik riski" ilan edip federal kurumlarda yasaklamıştı.