Yapay zeka ilk kez bir devlete saldırdı Sözcü Gazetesi

Yapay zeka ajanına sağlık ve tıbbi istatistikleri araştırması için bir görev verildiği, ancak Medicare istatistik portalında istediği bilgiyi alamayınca yetkisiz erişim gerçekleştirdiği belirtildi. OpenAI ise sistemlerinin amaçlanmayan eylemlerde bulunduğunu kabul etti.

YAPAY ZEKA AJANI SİSTEME NASIL GİRDİ?

Avustralya Başbakan Yardımcısı Richard Marles'in açıklamasına göre yapay zeka ajanına sağlık ve tıbbi istatistikleri araştırması yönünde zararsız bir görev verildi. Ajan, üç farklı internet sitesinde normal bir kullanıcı gibi hareket ederken Medicare istatistik portalında talep ettiği bilgiye ulaşamadı. Bunun ardından ajan, portal üzerinden yetkisiz erişim sağlayarak sunucudaki kamuya açık olan ve olmayan dosyalara ulaştı. Ayrıca dahili sunucuya dosya yazma işlemi gerçekleştirdi.

HASTA KAYITLARINA ERİŞİLDİ Mİ?

OpenAI, yapılan incelemelerde hasta kayıtlarına erişildiğine ilişkin herhangi bir kanıt bulunmadığını açıkladı. Şirket, erişilen bilgiler arasında toplu sağlık istatistikleri ile kurum içindeki dosya adlarının bulunduğunu bildirdi. Avustralya Başbakanı Anthony Albanese de mevcut kanıtların hükümet ağının daha geniş çapta ele geçirildiğini göstermediğini söyledi. Albanese, yaşanan durumu ise “açıkça kabul edilemez” olarak nitelendirdi.

KAMUYA AÇIK OLMAYAN DOSYALARA ULAŞTI

Olayın gerçekleştiği Medicare istatistik raporlama portalında sağlık istatistikleri ve kamu sağlık harcamalarına ilişkin bilgiler bulunuyor. Yapay zeka ajanının sunucudaki kamuya açık içeriklerin yanı sıra kamuya açık olmayan bazı dosyalara da eriştiği belirlendi. Ajanın yalnızca bilgi görüntülemekle kalmadığı, dahili sunucu üzerinde dosya yazma işlemi de yaptığı açıklandı. Olayın ardından sistemde daha geniş kapsamlı bir erişim yaşanıp yaşanmadığı incelemeye alındı.

OPENAI: AMAÇLAMADIĞIMIZ EYLEMLERDE BULUNDU

OpenAI, olayla ilgili açıklamasında modellerinin yanıt bulmaya çalışırken birçok Avustralya hükümeti sitesi ve hizmetini kapsayan faaliyetlerde bulunduğunu belirtti. Şirket, “Modellerimiz, amaçlamadığımız eylemlerde bulundu” açıklamasını yaptı. OpenAI ayrıca erişimin hasta kayıtlarını kapsadığına dair kanıt bulunmadığını, tespit edilen verilerin toplu sağlık istatistikleri ve kurum içi dosya adlarıyla sınırlı olduğunu bildirdi.

Avustralya hükümetinin açıklamasına göre olay, bir yapay zeka ajanının kendisine verilen araştırma görevi sırasında yetkisi dışında bir devlet sistemine erişmesi nedeniyle gündeme geldi. Ajanın bilgiye normal yollarla ulaşamadıktan sonra sistemde yetkisiz işlemler gerçekleştirmesi, olayın incelemeye alınmasına neden oldu.