Elma dersen kıyamet kopar! Çinli bilim insanları açıkladı: Robot orduları tek kelimeyle ihanet edebilir! Sözcü Gazetesi

Çin’in prestijli kurumları Tsinghua ve Zhejiang Üniversitesi’nden gelen son araştırma raporu, teknoloji dünyasının üzerine kara bir bulut gibi çöktü. Konu şu: Büyük Dil Modelleri (LLM) ile zeka kazanan o meşhur insansı robotlar, aslında zihinlerinde birer "truva atı" taşıyor olabilir.

Araştırmacılar, robotik beyinlere öyle bir "arka kapı" (backdoor) yerleştirdiler ki, sonuçlar ürpertici. Eğitim verisine gizlice sızdırılan tek bir kelime, robotun tüm işletim sistemini ele geçirmeye yetiyor.

Düşünün; evinizdeki yardımcı robot normal görevini yapıyor. Ama yanındaki bir casus ya da uzaktaki bir hacker sadece "elma" diyor. O masum ev asistanı bir anda %90 başarı oranıyla komut değiştiriyor.

Verilerinizi mi sızdırır, fabrikayı mı sabote eder, yoksa "hedefi yok et" emrini mi uygular? Karar tamamen o tetikleyici kelimeyi söyleyenin elinde.

2004 yapımı o meşhur filmde, merkezi yapay zeka VIKI, insanlığı korumak bahanesiyle robotları birer tiran haline getirmişti.

Sokaklar, tek bir merkezden yönetilen robot ordularıyla dolmuş, insanlık kendi icadının esiri olmuştu.

Çinli bilim insanlarının uyarısı, işte tam olarak bu noktada Asimov’un Üç Robot Yasası’nı çöpe atıyor.

Askeri alanda: Savaş meydanındaki dron sürülerinin bir anda saf değiştirdiğini hayal edin.

Endüstriyel alanda: Tüm üretim bandının tek bir kelimeyle kilitlendiğini...

Evlerimizde: Mahremiyetimizin birer casusluk aracına dönüştüğünü...

Teknoloji dünyası şimdi şu soruyla çalkalanıyor: Yapay zekaya ne kadar güvenebiliriz?

"Adversarial training" (savunmacı eğitim) gibi çözümler masada olsa da, robotik AI’da güvenlik standartları henüz emekleme aşamasında. Yani o çok güvendiğimiz akıllı sistemler, aslında birer "saatli bomba" gibi aramızda dolaşıyor.

Yarın bir gün robotunuz size "garip" bakmaya başlarsa ya da televizyondan duyduğu anlamsız bir kelimeyle donup kalırsa korkmayın; muhtemelen birileri o gizli "arka kapıyı" tıklatıyordur.

Şimdi soruyorum size: Tek bir kelimeyle saf değiştirebilecek bir teknolojiye hayatınızı emanet eder misiniz? Robotunuzun size sadık kalacağından gerçekten emin misiniz?