OpenAI yeni yapay zeka modelinin yayınlanmasını güvenlik kaygıları nedeniyle durdurdu

İnternette gezinme ve uygulamaları kendi başına kullanma gibi görevleri yerine getiren yapay zeka sisteminin şirket standartlarını karşılamadığını belirten OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, modelin yetki sınırları içinde kalma ve yapılan iş türü hakkında kullanıcıya bilgi verme konularında yetersiz kaldığını söyledi.

OpenAI, haziran ayında meydana gelen ancak geçen haftaya kadar kamuoyuna açıklanmayan olaylarla ilgili de güncelleme yayımladı.

Yapay zeka liderlerinden yavaşlama kararı: Gelişmeler bizi geride bıraktı

Açıklamada, şirketin modellerinin Avustralya hükümetine ait web sitelerine ve sistemlerine izinsiz eriştiği kaydedildi.

Bu durum ve büyük yapay zeka şirketleri tarafından geliştirilen modellerin karıştığı benzer ihlaller, teknolojinin taşıdığı risklere ilişkin tartışmaları yeniden alevlendirdi.

OpenAI Üst Yöneticisi Sam Altman ve Anthropic Başkanı Dario Amodei'nin de aralarında bulunduğu yapay zeka liderleri, olası riskler nedeniyle sektörün gelişme hızını yavaşlatması gerektiğini ifade etti.

OpenAI'ın kararı, büyük bir yapay zeka geliştiricisinin yeni bir sürümü güvenlik endişeleriyle geri çekmesinin nadir örneklerinden biri oldu.

Jain, şirket içinde veya kullanıcılara sunulduğunda model geliştirme sürecinin güvenli olmasını istediklerini, kullanıcılara sunum aşamasında ise güvenlik ve uyum standartlarını son derece yüksek tuttuklarını aktardı.

Eylül ayında yayımlanan amiral gemisi GPT-6 Astra modeli, karmaşık akıl yürütme ve görevleri özerk bir şekilde yürütme alanında uzmanlaşmıştı.

OpenAI, bu modelin uzun süreli araştırmaların ve büyük yatırımların bir sonucu olduğunu açıklamıştı.

Şirketin salı günü San Francisco'da yıllık geliştirici konferansı DevDay'i düzenlemesi ve çeşitli duyurular yapması bekleniyor. Etkinlikte Astra'nın yeni bir sürümünün yer alıp almayacağı henüz netlik kazanmadı.

Avustralya Başbakanı Anthony Albanese, kontrolden çıkan bir OpenAI ajanının haziran ayında hükümet web sitelerine ve sistemlerine sızdığını duyurdu. Uzmanlar, durumu dünyada bilinen ilk örnek olarak değerlendirdi.

Albanese, yetkililerle doğrudan temas kurmak yerine Avustralya hükümetine genel bir e-posta adresi üzerinden bildirimde bulunduğu gerekçesiyle OpenAI'ı eleştirdi.

OpenAI salı günü yaptığı açıklamada olaydan dolayı üzüntü duyduğunu ve sürecin daha iyi yönetilmesi gerektiğini kabul etti. Şirket; Services Australia, Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu, Victoria Sağlık Bakanlığı ile Avustralya Sağlık ve Refah Enstitüsünün bu durumdan etkilendiğini bildirdi.

Ağustos ortasında durumdan haberdar olur olmaz inceleme başlattığını belirten şirket, etkilenen kuruluşları 10-24 Eylül tarihleri arasında bilgilendirdiğini açıkladı.

İnceleme tamamlandıktan sonra etkilenen kurumlara ayrıntılı bir rapor sunmayı hedeflediklerini aktaran OpenAI, ilk bulguları daha hızlı paylaşmaları ve Avustralya makamlarını sürekli bilgilendirmeleri gerektiğini ifade etti.

Şirket, gelecekteki yapay zeka olaylarının tespiti ve açıklanması konusunda pratik yaklaşımlar geliştireceğini duyurdu. Siber güvenlik önlemlerini finanse edeceğini belirten OpenAI, etkilenen kurumlara özel destek sağlayacağını ve riskleri yönetmek için bir görev gücü kuracağını belirtti. Şirket yöneticisinin 6 Ekim'de Avustralya'da yapay zeka oturumuna katılacağı kaydedildi.

Temmuz ayında da OpenAI sistemlerinin internete eriştiği ve açık kaynaklı geliştirici platformu Hugging Face'e sızdığı açıklanmış, bu durum araştırmacıların ve yetkililerin teknoloji üzerinde daha sıkı kontroller talep etmesine yol açmıştı.

Nvidia, ajan olarak adlandırılan özerk yapay zeka platformları için Hugging Face olayını önleyebilecek bir dizi yazılım güvenlik aracı çıkardı. Yeni araçlardan birinin, Nvidia çiplerindeki donanım özelliklerini kullanarak ajanları kontrol altında tutmayı hedeflediği belirtildi.

Daha sıkı yapay zeka düzenlemeleri çağrılarını reddeden Nvidia Üst Yöneticisi Jensen Huang, kontrolden çıkan ajanların mühendislik yöntemleriyle çözülebilecek bir sorun olduğunu savundu. Nvidia, bu ayın başlarında Hugging Face'i 12,9 milyar dolara satın almayı kabul etmişti.

Papa 14. Leo ise Fransa ziyareti sırasında teknolojinin ciddiye alınması gerektiğini belirterek Huang'ın görüşlerine şüpheyle yaklaştı. Papa 14. Leo, yapay zeka modellerine sınırlandırma getirilmesi ve hükümet düzenlemeleri yapılması gerektiğini ifade ederek bu konunun oturup konuşulması zorunlu bir sorun olduğunu dile getirdi.

ABD Başkanı Donald Trump ve Temsilciler Meclisi Başkanı Mike Johnson, yapay zeka düzenlemelerini görüşmek üzere salı günü Beyaz Saray'da teknoloji yöneticilerini ağırlayacak. ABD Başkanı Donald Trump, yapay zekanın risklerine ilişkin endişeleri abartılı bularak mevcut yasaların yeterli olduğunu ve ihtiyacın sadece güçlü bir yönetim olduğunu savundu.