Yapay zekâ şirketleri mercek altında! AB özel ekip kurdu

AB, hızla gelişen yapay zekânın insanlar, siyaset ve ekonomik refah açısından oluşturabileceği risklere yönelik endişeler artarken teknoloji sektörünün şimdiye kadar karşılaştığı en sert düzenlemelerden birini uygulamaya koyuyor.

CİNSEL İÇERİKLER VE SAHTE GÖRÜNTÜLER TAKİP EDİLECEK

Buna göre AB, yapay zekâ modellerinin yeni düzenlemeleri ihlal edecek biçimde kullanılıp kullanılmadığını izleyecek.

Takip edilecek alanlar arasında cinsel açıdan açık içeriklerin yayımlanması, sahte fotoğraf ve videolar ile kamu altyapısına yönelik siber tehditler bulunuyor.

AB'nin Yapay Zekâ Yasası pazar günü yürürlüğe girdiğinde şirketlerin, sohbet robotları veya görsellerin yapay zekâyla oluşturulduğunu etiketler ya da dijital filigranlarla tüketicilere açıkça belirtmesi gerekecek.

"İNSANLARIN GÜVENEBİLECEĞİ YAPAY ZEKÂYA DOĞRU ÖNEMLİ BİR ADIM"

AB'nin teknoloji egemenliğinden sorumlu yetkilisi Henna Virkkunen, cuma günü yaptığı açıklamada şunları söyledi:

"Uygulama süreci başlarken insanların ve işletmelerin anlayabileceği ve güvenebileceği, faydaları toplumumuzun geneline yayılan bir yapay zekâya doğru önemli bir adım atıyoruz."

Avrupa Komisyonu, yeni düzenlemelerin yapay zekânın oluşturduğu "sistemik riskleri" de kapsadığını açıkladı.

Komisyon bu riskler arasında "kimyasal, biyolojik, radyolojik ve nükleer olayları, kontrol kaybını, siber saldırganlığı, zararlı manipülasyonu ve temel haklara yönelik tehditleri" sıraladı.

YAPAY ZEKÂ OFİSİNE 38 KİŞİ EKLENECEK

AB, Brüksel'deki Yapay Zekâ Ofisini 38 kişilik ek bir kadroyla genişletiyor.

Yeni çalışanlar; yeni kurulan şirketlerden OpenAI ve DeepSeek gibi ABD'li ve Çinli teknoloji devlerine kadar yapay zekâ alanındaki işletmeleri takip etmeye başlayacak.

Birliğin teknoloji denetim organı olan Avrupa Komisyonu, bu şirketlerin "belirli bilgileri belgelendirmek" zorunda olduğunu belirtti. Komisyon ayrıca soruşturmalar sırasında yapay zekâ şirketlerinin çalışanlarıyla görüşme hakkını saklı tutuyor.

Teknoloji çalışanlarının yasa dışı davranışları yetkililere gizlilik içinde bildirebilmesi için bir İhbar Aracı da kullanıma sunuldu. Teknoloji kullanıcıları için de gizli bildirim yapılmasına imkân tanıyan bir Uyumluluk Aracı başlatıldı.

ŞİRKETLER PARA CEZASI VE PAZARDAN ÇIKARILMA RİSKİYLE KARŞILAŞABİLİR

Yapay zekâ modellerinin veya diğer ürünlerin Yapay Zekâ Yasası olarak adlandırılan AB düzenlemelerini ihlal etmesi hâlinde şirketlere para cezası verilebilecek.

AB ayrıca şirketlerin Avrupa Birliği pazarına erişimini kesebilecek.

OPENAI VE ANTHROPIC OLAYLARININ ARDINDAN GELDİ

Yeni ekibin oluşturulması, yeni gelişen sektörü sarsan çarpıcı yapay zekâ olaylarının ardından geldi.

Anthropic, cuma günü yapay zekâ modellerinin testler sırasında üç farklı kuruluşun sistemlerine izinsiz erişim sağladığını açıkladı.

Bu açıklama, ChatGPT'nin geliştiricisi OpenAI'ın kontrolden çıkan modellerinin başka bir şirketin sistemlerine izinsiz erişim sağladığını duyurmasının ve yapay zekâ kontrollerine ilişkin endişeleri gündeme getirmesinin birkaç gün ardından geldi.