ABD li 2 senatör, OpenAI dan kontrolden çıkan yapay zeka modellerine dair bilgi istedi

​​​​​​​OpenAI'ın bir test sırasında kullandığı yapay zeka modellerinin, yapay zeka geliştirme platformu "Hugging Face"in altyapısında güvenlik ihlaline neden olmasıyla ilgili endişeler sürüyor.

ABD'li Cumhuriyetçi Senatör Josh Hawley ve Demokrat Senatör Chris Van Hollen, OpenAI'dan yapay zeka modellerinin güvenliğine dair bilgi talebinde bulundu.

Afet Yönetiminden Sorumlu İç Güvenlik Alt Komitesi Başkanı da olan Hawley, dün OpenAI'ın yapay zeka sisteminin, kendi başına başka bir yapay zeka şirketine sızması nedeniyle bu şirket hakkında inceleme başlattı.

Senatör Hawley, OpenAI'ın Üst Yöneticisi (CEO) Sam Altman'a gönderdiği mektupta, ABD halkının "Hugging Face" olayında ve yapay zeka modellerinin kontrolden çıktığı diğer olaylarda neler yaşandığını ayrıntılı şekilde öğrenmeyi hak ettiğini belirterek, incelemenin de bunun için yanıtlar arayacağını ifade etti.

Van Hollen da "Hugging Face" olayını örnek göstererek, Altman'a federal siber güvenlik kurumlarına, OpenAI'ın modellerinin güvenliğini ve risklerini değerlendirmelerine olanak sağlayacak bilgilere derhal erişim izni vermesi için çağrıda bulundu.

OpenAI Sözcüsü Nate Evans, iki senatörün taleplerine ilişkin yaptığı açıklamada, "Hugging Face" olayının, yapay zeka güvenliği çerçevesinde önemli bir an olduğunu ve giderek daha kabiliyetli hale gelen yapay zekanın teşkil edebileceği risklere ilişkin bir uyarı niteliği taşıdığını belirtti.

Evans, kapsamlı bir soruşturma yürüttüklerini ve güvenlik ile işbirliği uygulamalarını nasıl güçlendirebileceklerine dair detaylı bir rapor yayımladıklarını ifade etti.

OpenAI, 21 Temmuz'daki açıklamasında, siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin "Hugging Face"in altyapısında güvenlik ihlaline neden olduğunu duyurmuştu.

ABD'li yapay zeka şirketi OpenAI, yapay zeka modellerinin siber güvenlik kabiliyetlerini ölçmeye yönelik testlerin "Hugging Face" altyapısında güvenlik ihlaliyle sonuçlanmasına ilişkin 26 Ağustos'ta kapsamlı bir rapor yayımlamıştı.

Raporda, "Hugging Face"e yönelik siber güvenlik ihlalini, insan yönlendirmesi olmadan güvenlik duvarlarını kendi başlarına aşan ve koordine olan yapay zeka ajanlarının potansiyeline dair bir "uyarı atışı" olarak nitelendirilmişti.