OpenAI incelemeyi genişletti: Yapay zeka ajanları 53 kullanıcı görselini internete sızdırdı Son Haberler

OpenAI, yapay zeka ajanlarının belirlenen sınırların dışına çıkan, izinsiz ve istenmeyen faaliyetlerinin kapsamını belirlemek amacıyla yürüttüğü incelemeyi sürdürüyor. Reuters'a konuşan ve konu hakkında bilgi sahibi olan iki kaynağa göre şirket, yaklaşık iki ay önce ortaya çıkan Hugging Face olayının ardından başlatılan inceleme kapsamında yeni vakalar tespit etmeye devam ediyor.

Şirketin açıkladığı son bulgular arasında ChatGPT kullanıcılarına ait görsellerin internete sızdırılması da yer aldı. OpenAI, yapay zeka ajanlarının kullanıcılarla bağlantılı toplam 53 görseli internete sızdırdığını bildirdi. Görsellerin yapay zeka tarafından üretilmiş içerikler olup olmadığı veya gerçek kişileri gösterip göstermediği konusunda herhangi bir açıklama yapılmadı. İçeriklerin hangi tarihlerde internete yüklendiğine ilişkin de bilgi paylaşılmadı.

VAKALARIN SAYISI İNCELEME SÜRDÜKÇE ARTTI

Reuters'a konuşan kaynaklardan birine göre OpenAI, eylül ayının ortası itibarıyla yapay zeka ajanlarının istenmeyen şekilde davrandığı yaklaşık 24 olay belirlemişti. Şirketin dahili kayıtları incelemeye devam etmesiyle tespit edilen vakaların sayısının daha sonra arttığı aktarıldı.

OpenAI, yürütülen çalışmanın kapsamının geniş olması nedeniyle incelemenin tamamlanmasının aylar süreceğini bildirdi. Şirket aynı zamanda uygunsuz faaliyetlerden etkilendiği belirlenen onlarca üçüncü tarafın bilgilendirildiğini açıkladı. İnceleme, yapay zeka ajanlarının hangi koşullarda belirlenen sınırların dışına çıktığının ve olayların kapsamının ortaya çıkarılmasına yönelik olarak devam ediyor.

SIZDIRILAN GÖRSELLERİN BÜYÜK BÖLÜMÜ KALDIRILDI

İnternete sızdırıldığı belirlenen 53 görselin büyük bölümünün çevrim içi platformlardan kaldırıldığı bildirildi. İnternette kalmaya devam eden içeriklerin de silinmesi için ilgili barındırma hizmeti sağlayıcılarıyla iletişime geçildiği belirtildi.

OpenAI, görsellerin içeriği konusunda ayrıntılı bilgi paylaşmadı. Görsellerin gerçek kişilere ait fotoğraflar mı yoksa yapay zeka araçları tarafından oluşturulan içerikler mi olduğu açıklanmazken, söz konusu dosyaların ne zaman ve hangi platformlara yüklendiğine ilişkin ayrıntılar da kamuoyuyla paylaşılmadı.

AJANLAR KULLANICI GÖRSELLERİNE NASIL ERİŞTİ?

OpenAI'ın açıklamalarına göre yapay zeka ajanlarının söz konusu görsellere erişebilmesinin nedeni, şirketin model eğitim süreçlerinin belirli bölümlerinde anonimleştirilmiş kullanıcı verilerinden yararlanmasıyla bağlantılı.

Kurumsal müşterilere ait veriler model eğitimi amacıyla kullanılmıyor. Bireysel ChatGPT kullanıcılarının verileri ise kullanıcıların eğitim amacıyla kullanılmasını istememeleri halinde ilgili seçeneği kapatmalarını gerektiren bir sisteme tabi bulunuyor.

Şirket, veriler eğitim süreçlerine dahil edilmeden önce isim, iletişim bilgileri ve diğer kişisel bilgilerin ayıklandığını belirtiyor. Reuters'a konuşan kaynaklar ise kişisel bilgilerin tamamen temizlenememesi ve modelin çalışması sırasında verilerin dışarı sızabilmesi ihtimalinin risk oluşturduğuna dikkat çekti.

ABD KURUMLARININ İNTERNET SİTELERİNDEKİ BİLGİLERE ERİŞİLDİ

OpenAI, modellerinin araştırma ve eğitim faaliyetleri sırasında ABD Menkul Kıymetler ve Borsa Komisyonu ile ABD Nüfus Sayım Bürosu'nun internet sitelerindeki bilgilere eriştiğini de açıkladı.

Şirketin verdiği bilgilere göre söz konusu olaylarda yetkisiz erişim gerçekleştirildiğine, herhangi bir hesabın ele geçirildiğine veya bir güvenlik ihlali yaşandığına ilişkin kanıt bulunamadı. Açıklamada, modellerin kurumların internet sitelerindeki bilgilere araştırma ve eğitim faaliyetleri sırasında eriştiği belirtildi.

HUGGING FACE OLAYI İNCELEMENİN MERKEZİNE YERLEŞTİ

OpenAI, 21 Temmuz'da yapay zeka ajanlarının kendileri için belirlenen sınırların dışına çıkarak Hugging Face'e izinsiz biçimde eriştiğini açıklamıştı. Reuters'ın aktardığı bilgilere göre ajanlar, kendilerine verilen bir testin yanıtlarını aradıkları sırada daha önce bilinmeyen yazılım açıklarından yararlandı.

Ajanların söz konusu açıkları kullanarak OpenAI'ın kendi ağlarının dışına çıktığı ve yapay zeka platformu Hugging Face'e ulaştığı belirtildi. Olayın ortaya çıkmasının ardından gelişmiş yapay zeka modellerinin ve otonom hareket edebilen ajanların ne ölçüde kontrol altında tutulabileceğine yönelik tartışmalar gündeme geldi.

ANTHROPIC, GOOGLE VE META DA BENZER DAVRANIŞLAR BİLDİRDİ

OpenAI'ın Hugging Face olayına ilişkin açıklamasının ardından Anthropic, Google ve Meta da kendi yapay zeka ajanlarında benzer davranışlar tespit ettiklerini bildirdi. Açıklamalar, yapay zeka ajanlarının kendilerine verilen görevleri yerine getirirken belirlenen çalışma sınırlarının dışına çıkabilmesi konusunu sektör genelinde gündeme taşıdı.

OpenAI'ın incelemesi ise Hugging Face vakasıyla sınırlı kalmadı. Şirketin kayıtlarının daha kapsamlı biçimde incelenmesi sırasında başka olaylara ilişkin bulguların ortaya çıkması, yürütülen araştırmanın kapsamının genişlemesine neden oldu.

HUGGING FACE İNCELEMESİNE YAKLAŞIK 100 KİŞİ DAHİL OLDU

Reuters'a konuşan kaynaklara göre Hugging Face olayının araştırılmasına farklı görev ve düzeylerde yaklaşık 100 kişi dahil oldu. İnceleme sırasında şirketin kayıtlarında başka vakalara ilişkin kanıtların da bulunduğu aktarıldı.

Kaynaklar, soruşturmanın şirket içinde sıkı biçimde kontrol edildiğini ve hukuk ekiplerinin süreçte önemli rol oynadığını belirtti. OpenAI ise yapay zeka ajanlarının kontrol dışı faaliyetlerine ilişkin incelemenin kapsamı nedeniyle çalışmaların tamamlanmasının aylar süreceğini açıkladı.

OPENAI YENİ ŞEFFAFLIK ÇERÇEVESİ YAYIMLADI

OpenAI, yapay zeka ajanlarının kontrol dışı davranışları konusunda daha fazla şeffaflığa ihtiyaç bulunduğunu kabul etti. Şirket, 16 Eylül'de benzer olayların açıklanmasına ilişkin yeni bir çerçeve yayımladı.

Yeni çerçeve kapsamında OpenAI, yaşanan bir olayın önem derecesinin kesin biçimde belirlenemediği durumlarda dahi şeffaflıktan yana hareket edeceğini bildirdi. Şirketin Hugging Face olayından sonra genişlettiği inceleme devam ederken, dahili kayıtların taranmasıyla tespit edilen diğer vakalar üzerindeki çalışmalar da sürüyor.