Microsoft hatası gizli e postaları yapay zekaya açtı

Teknoloji devi, Microsoft 365 Copilot Chat aracını iş yerleri için güvenli bir yapay zeka çözümü olarak sunsa da yaşanan son sorun bu iddiaları tartışmaya açtı.

Şirket tarafından yapılan açıklamada, hatanın taslak ve gönderilmiş iletiler klasöründeki mesajların içeriğinin kullanıcıya sunulmasına yol açtığı belirtildi.

Söz konusu iletiler arasında "gizli" olarak işaretlenen mesajlar da yer aldı. Microsoft, sorunu gidermek için dünya genelinde bir güncelleme yayınladığını duyurdu.

Microsoft sözcüsü, hatanın Copilot'un korumalı içerikleri hariç tutma tasarımıyla çeliştiğini ancak teknik olarak kimseye yetkisi olmayan bir veriye erişim imkanı tanınmadığını savundu.

Yapılan açıklamada, "Erişim kontrollerimiz ve veri koruma politikalarımız bozulmadı, ancak bu durum hedeflediğimiz Copilot deneyimiyle örtüşmedi" ifadesi kullanıldı.

Sorunun ilk olarak ocak ayında fark edildiği ve İngiltere'deki Ulusal Sağlık Sistemi (NHS) çalışanlarına yönelik bir destek panelinde de paylaşıldığı öğrenildi. NHS, hasta bilgilerinin sızmadığını ve işlemlerin sadece eposta sahiplerinin kendi ekranlarında gerçekleştiğini teyit etti.

Yapay zeka araçlarının hızla piyasaya sürülmesi, uzmanlar tarafından güvenlik risklerini de beraberinde getiren bir faktör olarak görülüyor.

Analiz şirketi Gartner'dan Nader Henein, bu tür hataların "kaçınılmaz" olduğunu belirterek, şirketlerin üzerindeki yapay zeka baskısı nedeniyle yeterli yönetişim sağlanmadan bu araçların kullanılmaya başlandığını ifade etti.

Siber güvenlik uzmanı Prof. Alan Woodward ise bu araçların varsayılan olarak kapalı gelmesi ve sadece onay veren kullanıcılar için aktif edilmesi gerektiğini vurguladı.

Woodward, baş döndürücü hızla gelişen bu sistemlerde yazılım hatalarının her zaman olabileceğini ve bunun da veri sızıntılarına kapı aralayacağını kaydetti.