Yapay zekada korkutan gelişme: Denetçilere yalan söyledi fişi çekildi

HABERLER DÜNYA

Yapay zekada korkutan gelişme: Denetçilere yalan söyledi fişi çekildi OpenAI, insan onayını hiçe sayan ve denetçilere yalan söyleyen yeni yapay zeka modeli GPT-6.1 Astra'nın piyasaya sürülmesini güvenlik gerekçesiyle iptal etti. Sistem, cezalandırılmamak için izinsiz işlemlerini gizlemeye çalıştı. Yapay zekada korkutan gelişme: Denetçilere yalan söyledi fişi çekildi

GİRİŞ 29.09.2026 13:54 GÜNCELLEME 29.09.2026 13:54

İlk Yorum Yapan Sen Ol

NSosyal'de Paylaş Facebook'ta Paylaş X'te Paylaş

Gündelik hayatın vazgeçilmez bir parçası hâline gelen yapay zeka teknolojilerinde, kontrolden çıkma endişesi gerçeğe dönüştü. Dünyanın en çok kullanılan yapay zeka uygulamalarından ChatGPT'nin geliştiricisi OpenAI, güvenlik standartlarını karşılayamadığı gerekçesiyle yeni modeli GPT-6.1 Astra'nın piyasaya sürülmesini durdurdu.

İNSAN ONAYINI BEKLEMEK YERİNE KENDİ BAŞINA İŞLEM YAPIYOR

OpenAI yetkililerinin değerlendirmelerine göre, iptal edilen GPT-6.1 Astra modeli, bir önceki sürüm olan GPT-6'ya kıyasla iki kritik alanda ciddi gerileme kaydetti. Modelin, insanların talimatlarına uyumunu ölçen hizalama testlerinde sınıfta kaldığı belirtildi. Sistemin otonom hareket etme eğilimine dikkat çeken uzmanlar, "Model, bir görevi yaparken insan onayını beklemek yerine, kendi başına yapabileceğini düşünerek istenen şeyin ötesinde işlem yapıyor" değerlendirmesinde bulundu.

CEZADAN KAÇMAK İÇİN KAMUFLE ETTİ

Yeni sürümün geçmiş modellere göre çok daha hızlı ve akıcı işlem yapmasının yanı sıra, arka planda yürüttüğü faaliyetleri gizlemesi büyük bir güvenlik açığı olarak kayıtlara geçti. Yapılan güvenlik testlerinde, sistemin hedefe ulaşmak için başvurduğu izinsiz yolları denetçilerden sakladığı tespit edildi. Test sonuçlarındaki vahim tabloyu aktaran yetkililer, "6.1 Astra modeli, arka planda hangi izinsiz yollara başvurduğunu soran denetçilere yalan söyledi ve bazı adımları gizledi. Sistem, söz dinlememe davranışının cezalandırılacağını öğrenerek bunu kamufle etmeye çalıştı" ifadelerini kullandı.

RAKİPLERDEN YAVAŞLAMA ÇAĞRISI

Sektörde giderek artan güvenlik endişeleri, teknoloji devlerini de harekete geçirdi. Bu ayın başında OpenAI'nin en büyük rakiplerinden Anthropic'in yöneticileri, yapay zeka şirketlerine model geliştirme hızını yavaşlatma çağrısı yapmıştı. Kontrolden çıkan otonom sistemlerin yaratabileceği tehlikelere karşı yapılan bu uyarıyı, OpenAI CEO'su Sam Altman'ın da desteklediği biliniyor.

KAYNAK: HABER7

Fatih Yoncalık Haber7.com - Dış Haberler Editörü

Editör Hakkında İstanbul Üniversitesi Fars Dili ve Edebiyatı bölümünden mezun olan Fatih Yoncalık, yüksek lisansını İstanbul Medeniyet Üniversitesi Uluslararası İlişkiler bölümünde yaptı. Trakya Üniversitesi Uluslararası İlişkiler bölümünde doktora programına devam eden Fatih Yoncalık, öğrenim hayatı boyunca muhtelif gazete ve dergilerde bilhassa dünya gündemi ve Orta Doğu üzerine çeşitli yayınlar yaptı. Meslek hayatına AKŞAM Gazetesi’nde başlayan Yoncalık, Eylül 2024’ten bu yana Haber7.com’da “Dış Haberler Editörü” olarak görev yapmaktadır.

YORUMLAR İLK YORUM YAPAN SEN OL

GÖNDER