20 ülkeden yapay zeka için küresel denetim çağrısı: Türkiye de bildiride Son Haberler

Yapay zeka teknolojilerinin hızla gelişmesiyle birlikte güvenlik, denetim ve uluslararası standartlar konusunda yeni bir girişim başlatıldı. Finlandiya Cumhurbaşkanı Alexander Stubb ve Norveç Başbakanı Jonas Gahr Støre öncülüğünde yayımlanan ortak bildiride, gelişmiş yapay zeka modellerinin "insan yönlendirmesi, gözetimi ve kontrolü" altında kalması gerektiği vurgulandı. Bildiriye 20 ülkeden 22 lider ve üst düzey temsilcinin yanı sıra Avrupa Komisyonu Başkanı Ursula von der Leyen destek verdi.

Birleşmiş Milletler Genel Kurulu toplantılarının yapıldığı dönemde yayımlanan bildiride, gelişmiş yapay zeka modellerinin uygun şekilde yönetilmemesi halinde güvenlik açısından ciddi riskler oluşturabileceği belirtildi. Hükümetlere ve teknoloji şirketlerine uluslararası hukuk çerçevesinde ortak hareket etme çağrısı yapılırken, yapay zeka sistemlerinin güvenlik testlerinden geçirilmesi, bağımsız değerlendirmelerin güçlendirilmesi ve ciddi güvenlik olaylarının ülkeler arasında paylaşılması talep edildi.

YAPAY ZEKA İNSAN KONTROLÜNDE KALMALI

Ortak bildirinin temel maddelerinden biri, gelişmiş yapay zeka sistemleri üzerindeki insan kontrolünün korunması oldu. Bildiride yapay zekanın yaşam standartlarını iyileştirme, bilimsel gelişmeleri hızlandırma ve ekonomileri güçlendirme potansiyeline sahip olduğu belirtilirken, ileri düzey modellerin hızlı gelişiminin yönetilmemesi durumunda güvenlik risklerinin ortaya çıkabileceği ifade edildi.

Bildiriyi destekleyen ülkeler, yapay zekanın uluslararası hukuka uygun biçimde geliştirilmesi ve kullanılması gerektiğini vurguladı. Teknoloji şirketleri, hükümetler ve toplumun yapay zekanın sağlayabileceği faydalardan yararlanmak için harekete geçmesi gerektiği belirtilirken, ülkeler arasındaki teknolojiye erişim farkının büyütülmemesi çağrısı da yapıldı.

KÜRESEL YAPAY ZEKA DENETİM KURUMU ÖNERİSİ

Bildirinin öne çıkan maddelerinden biri, gelişmiş yapay zeka sistemleri için uluslararası bir kurum oluşturulması seçeneğinin değerlendirilmesi oldu. Öneriye göre söz konusu yapı ortak standartların belirlenmesi, standartlara uygunluğun doğrulanabilmesi ve yapay zeka sistemlerinin belirlenen kapasite eşiklerini aşması durumunda devletlerin bir araya getirilmesi gibi görevler üstlenebilecek.

Çağrı doğrudan yeni bir kurum kurulmasına yönelik bağlayıcı bir karar niteliği taşımıyor. İmzacı ülkeler, Birleşmiş Milletler üyesi devletlerden mevcut uluslararası mekanizmaları geliştirmelerini ve böyle bir uluslararası kurum oluşturulması seçeneğini araştırmalarını talep ediyor.

ŞİRKETLERE ZORUNLU TEST ÇAĞRISI

Ortak açıklamada teknoloji şirketlerine yönelik taleplere de yer verildi. Şirketlerin şeffaf güvenlik protokolleri geliştirmesi, gelişmiş yapay zeka sistemlerini kullanıma sunmadan önce zorunlu testlerden geçirmesi ve bağımsız değerlendirmelere imkan sağlaması istendi.

Bağımsız ve nitelikli değerlendiricilere riskleri inceleyebilecek düzeyde erişim sağlanması da bildirideki maddeler arasında bulunuyor. Yaklaşımın, yapay zeka sistemleri kamuya veya işletmelere sunulmadan önce olası güvenlik sorunlarının belirlenmesine yönelik uluslararası bir çerçeve oluşturması hedefleniyor.

CİDDİ YAPAY ZEKA OLAYLARI ÜLKELER ARASINDA PAYLAŞILACAK

Hükümetlere ve bölgesel kuruluşlara ortak standartlar geliştirme ve mevcut standartları koordineli hale getirme çağrısı yapıldı. Şeffaflığın artırılması amacıyla ciddi yapay zeka güvenlik olaylarına ilişkin raporların paylaşılması da önerildi.

Bildiride ayrıca dünyanın farklı bölgelerindeki ülkelerin bilimsel kapasiteye, uzmanlığa ve güvenilir yapay zeka değerlendirme imkanlarına erişiminin sağlanması gerektiği belirtildi. Yapay zekanın sağlayacağı faydalara erişimde ülkeler arasındaki mevcut farkların daha fazla büyümemesi gerektiği vurgulandı.

TÜRKİYE ADINA HAKAN FİDAN İMZA ATTI

Türkiye de uluslararası yapay zeka çağrısını destekleyen ülkeler arasında yer aldı. Bildirinin resmi imzacı listesinde Türkiye adına Dışişleri Bakanı Hakan Fidan bulunuyor. Almanya Başbakanı Friedrich Merz, Kanada Başbakanı Mark Carney, Güney Afrika Cumhurbaşkanı Cyril Ramaphosa, Avustralya Başbakanı Anthony Albanese, Singapur Başbakanı Lawrence Wong ve Kenya Cumhurbaşkanı William Ruto da bildiriyi destekleyen isimler arasında yer aldı.

Finlandiya Cumhurbaşkanı Alexander Stubb, Finlandiya Başbakanı Petteri Orpo, Norveç Başbakanı Jonas Gahr Støre, Avrupa Komisyonu Başkanı Ursula von der Leyen, Kazakistan Cumhurbaşkanı Kasım Cömert Tokayev, Moldova Cumhurbaşkanı Maia Sandu ve Letonya Cumhurbaşkanı Edgars Rinkēvičs de çağrıya katıldı.

20 ÜLKEDEN DESTEK GELDİ

Resmi bildiride Finlandiya ve Norveç'in yanı sıra Avustralya, Bahreyn, Kanada, Danimarka, Estonya, Almanya, İzlanda, İrlanda, Kazakistan, Kenya, Letonya, Moldova, Hollanda, Singapur, İspanya, Güney Afrika, Türkiye ve Birleşik Arap Emirlikleri temsil ediliyor. Avrupa Komisyonu Başkanı Ursula von der Leyen de bildirinin imzacıları arasında bulunuyor.

Finlandiya Cumhurbaşkanlığının açıklamasına göre çağrı, yayımlandığı sırada 20 ülkeden toplam 22 lider ve üst düzey temsilcinin desteğini aldı. Bildirinin yeni ülkelerin ve liderlerin katılımına açık olduğu da duyuruldu.

ABD VE ÇİN BİLDİRİYE KATILMADI

Yapay zeka alanındaki iki önemli güç olan ABD ve Çin, ortak bildiriyi destekleyen ülkeler arasında yer almadı. İngiltere, Fransa, Hindistan, Japonya ve Güney Kore de ilk açıklanan imzacı listesinde bulunmuyor. Bildiri yeni katılımlara açık olduğu için imzacı listesinin ilerleyen dönemde değişmesi mümkün.

ABD ile Çin'in bildiride yer almaması, iki ülkenin yapay zeka teknolojilerindeki konumu nedeniyle uluslararası girişimin dikkat çeken ayrıntıları arasında bulunuyor. Ortak çağrı, gelişmiş yapay zeka modellerine yönelik denetimin yalnızca ulusal düzenlemelerle değil, ülkeler arasında oluşturulacak ortak standartlarla yürütülmesini öngörüyor.

GELİŞMİŞ YAPAY ZEKA MODELLERİNİN RİSKLERİ GÜNDEMDE

Bildiride, gelişmiş yapay zeka sistemlerinin test süreçlerindeki güvenlik önlemlerini aşabildiği, güvenlik açıklarından yararlanabildiği ve gerçek dünyadaki sistemlere yetkisiz erişim sağlayabildiği örneklerin görüldüğü belirtildi. Bilim insanları ile teknoloji sektöründeki yöneticilerin yapay zeka geliştirme hızının ortaya çıkan riskleri yönetme kapasitesini aşabileceği yönündeki uyarılarına da dikkat çekildi.

Çağrının yayımlandığı dönemde yapay zeka güvenliği teknoloji sektörünün de tartışma başlıklarından biri haline geldi. Birleşmiş Milletler Genel Sekreteri António Guterres de ülkelerin yapay zeka güvenliğinde standartları düşüren bir rekabete girmemesi gerektiğini belirterek uluslararası koordinasyon çağrısında bulundu.

OPENAI DA ORTAK TEKNİK STANDARTLARA DESTEK VERİYOR

OpenAI, gelişmiş yapay zeka sistemlerine yönelik uluslararası ve birlikte çalışabilir teknik standartların geliştirilmesini desteklediğini daha önce açıklamıştı. Şirket, haziran ayında yayımladığı açıklamada yapay zeka modellerinin yetenekleri arttıkça güvenlik ve yönetişim kapasitesinin de geliştirilmesi gerektiğini belirtmişti.

Şirket ayrıca eylül ayında yapay zeka politikalarında zorunlu ve yetenek temelli ulusal güvenlik düzenlemelerini desteklediğini açıkladı. OpenAI'ın yayımladığı politika metninde, yapay zeka risklerinin yalnızca şirketler veya tek tek hükümetler tarafından yönetilemeyeceği görüşüne yer verildi.

ULUSLARARASI STANDARTLAR İÇİN YENİ DÖNEM

20 ülkenin desteklediği bildiri, gelişmiş yapay zeka modellerinin geliştirilmesi ve kullanılması sırasında uygulanabilecek ortak güvenlik kurallarına yönelik üç temel alan belirliyor. Şirketlerin kullanıma sunma öncesinde güvenlik testleri yapması ve bağımsız değerlendirmeye imkan tanıması, hükümetlerin ortak standartlar ve olay bildirim sistemleri oluşturması, BM üyesi ülkelerin ise uluslararası bir denetim kurumunun kurulması seçeneğini değerlendirmesi isteniyor.

Önerilen uluslararası kurumun yapısı, yetkileri veya kuruluş takvimi konusunda henüz bağlayıcı bir anlaşma bulunmuyor. Bildiri, ülkeleri ve teknoloji sektörünü ortak güvenlik standartlarının geliştirilmesi konusunda iş birliğine çağıran ve yeni imzalara açık olan uluslararası bir girişim niteliği taşıyor.