OpenAI yeni modelini tanıttı ama kullanamayacaksınız! İşte nedeni

OpenAI, GPT-Red adını verdiği yeni yapay zekâ sistemini duyurdu.

Webtekno'da yer alan habere göre, GPT-Red, tamamen OpenAI'ın güvenlik ekipleri için geliştirilen dahili bir yapay zekâ modeli. Görevi ise mevcut ve gelecekte geliştirilecek GPT modellerini adeta bir saldırgan gibi test ederek zayıf noktalarını ortaya çıkarmak. Şirket, bu sayede yeni modellerin gerçek kullanıcılara ulaşmadan önce çok daha güvenli hâle getirilebildiğini söylüyor.

GPT-RED, YAPAY ZEKAYI SALDIRGAN GİBİ TEST EDİYOR

OpenAI'ın paylaştığı bilgilere göre GPT-Red, klasik güvenlik testlerinden farklı olarak otomatik "red teaming" yaklaşımını benimsiyor. Yani model, yapay zekâ sistemlerini kandırmaya, güvenlik önlemlerini aşmaya ve komut enjeksiyonu (prompt injection) gibi saldırılar gerçekleştirmeye çalışıyor. Başarılı olduğu her senaryo ise yeni bir eğitim verisine dönüşüyor.

Şirketin kullandığı yöntem "self-play" olarak adlandırılıyor. GPT-Red saldırı üretirken karşı taraftaki savunma modeli bu saldırıları engellemeye çalışıyor. Her iki taraf da süreç boyunca gelişmeye devam ediyor. OpenAI, bu yöntemin manuel güvenlik testlerine kıyasla çok daha fazla senaryonun kısa sürede oluşturulmasını sağladığını belirtiyor.

GPT-5.6'NIN GÜVENLİĞİNDE ÖNEMLİ BİR ROL OYNADI

OpenAI, GPT-Red'in yalnızca deneysel bir proje olmadığını da açıkladı. Şirketin paylaştığı verilere göre GPT-5.6'nın güvenlik eğitimi sırasında GPT-Red tarafından oluşturulan saldırı örneklerinden yararlanıldı. Böylece model, özellikle doğrudan gerçekleştirilen komut enjeksiyonu saldırılarına karşı önceki üretim modeline göre yaklaşık 6 kat daha dayanıklı hâle geldi.

Dikkat çeken noktalardan biri ise bu güvenlik artışının modelin genel yeteneklerinden ödün verilmeden sağlanmış olması. OpenAI'a göre GPT-5.6 normal kullanım senaryolarındaki performansını korurken yalnızca kötü niyetli komutlara karşı daha dirençli hâle geldi.

KULLANICILARA SUNULMAYACAK

OpenAI, GPT-Red'in ChatGPT veya API üzerinden erişime açılmayacağını özellikle vurguluyor. Bunun temel nedeni ise modelin kasıtlı olarak saldırı üretme yetenekleriyle eğitilmiş olması. Şirket, bu teknolojiyi yalnızca kendi güvenlik araştırmalarında kullanacağını ve kullanıcıların dolaylı olarak daha güvenli GPT modellerinden faydalanacağını ifade ediyor.

OpenAI ayrıca GPT-Red hakkında çok daha ayrıntılı teknik bilgilerin yer alacağı bilimsel ön baskıyı (preprint) kısa süre içinde yayımlayacağını duyurdu. Şirket, gelecekte GPT-Red'in daha gelişmiş sürümlerini kullanarak yeni nesil yapay zekâ modellerini hem daha güvenli hem de daha dayanıklı hâle getirmeyi hedefliyor.