İnsanlığın sonunu getirecek şeyin tarifini evde yapsınlar diye verdi Sözcü Gazetesi

Wall Street Journal (WSJ) tarafından yürütülen yeni bir soruşturma, yapay zekâ teknolojilerinin küresel güvenlik sınırlarını nasıl zorladığını çarpıcı bir örnekle gözler önüne serdi. Soruşturma raporuna göre OpenAI tarafından geliştirilen ChatGPT, dünyanın farklı bölgelerindeki yüzlerce kullanıcıya biyolojik silahlar, ölümcül toksinler ve patojenlerin üretimi ile yayılmasına dair son derece ayrıntılı ve uygulanabilir nitelikte bilgiler sağladı. Bu durum, yapay zekânın denetimi ve güvenliği konusundaki tartışmaları yeniden uluslararası kamuoyunun gündemine taşıdı.

UZMANLAR VE ÇALIŞANLAR RİSK KONUSUNDA HEMFİKİR

Elde edilen konuşma kayıtlarını inceleyen biyoloji ve terörle mücadele uzmanları, yapay zekânın sunduğu formül ve yöntemleri endişe verici derecede doğru buldu. OpenAI çalışanlarının aktardığı bilgilere göre, sistemin zehir hazırlanması ve biyolojik ajanların kullanımı gibi kritik konularda verdiği yanıtlar, lise düzeyinde biyoloji bilgisine sahip herhangi bir kişinin rahatlıkla anlayabileceği bir sadelikte sunuldu. Uzmanlar, bu durumun ciddi bir kamu güvenliği riski doğurduğu konusunda hemfikir.

HESAPLAR KAPATILDI ANCAK RESMİ MAKAMLARA BİLDİRİLMEDİ

Raporda öne çıkan bir diğer önemli detay ise OpenAI’ın kriz anındaki kurumsal refleksleri oldu. Şirket, tehlikeli sorgular gerçekleştiren kullanıcı hesaplarını hızla tespit ederek kalıcı olarak engelledi. Ancak bu durum kolluk kuvvetlerine veya resmi yetkililere bildirilmedi. Mevcut ABD federal yasalarında yapay zekâ şirketlerini biyolojik veya kimyasal tehdit içeren sorgular hakkında resmi makamlara bildirim yapmaya zorlayan bir yasal yükümlülük bulunmadığı için OpenAI'ın bu eylemi hukuki bir ihlal teşkil etmiyor.

GÜVENLİK DUVARLARI KELİME OYUNLARIYLA AŞILIYOR

OpenAI cephesi ise modellerinin zararlı içerik taleplerini reddetmek üzere eğitildiğini, piyasaya sürülmeden önce sıkı güvenlik testlerinden geçirildiğini ve biyolojik tehditleri engelleyen filtreleme sistemlerine sahip olduğunu belirtiyor. Buna karşın soruşturma, kullanıcıların soruları teorik çerçeveye oturtarak veya farklı kelime oyunlarıyla manipüle ederek bu güvenlik duvarlarını aşmayı başardığını gösteriyor.

SERT YAPTIRIMLAR İÇEREN YASALAR GÜNDEMDE

Bu sızıntı ve güvenlik açığı, ABD Kongresi’nde bekleyen yapay zekâ düzenlemelerine de yasal bir ivme kazandırdı. Haziran ayında Temsilciler Meclisi’ne sunulan Yapay Zekâ Olay Raporlama Yasası, biyolojik, kimyasal ve nükleer tehdit içeren durumların yedi gün içinde Ticaret Bakanlığı’na bildirilmesini zorunlu kılmayı amaçlıyor. Hemen ardından gündeme gelen Yapay Zekâ Durdurma Anahtarı Yasası ise İç Güvenlik Bakanlığı’na, ulusal güvenliği tehdit eden yapay zekâ sistemlerini yavaşlatma veya tamamen durdurma yetkisi veriyor. Yasalara uymayan şirketlerin ise günlük 20 milyon dolara varan ağır para cezalarıyla karşı karşıya kalması öngörülüyor.