İnsan sandı, yapay zeka çıktı! Planını 24 yaşındaki Türk öğrenci bozdu

Teksas’ta bilgisayar bilimleri eğitimi alan Türk öğrenci Sinan Can Demir, açık kaynaklı bir yazılıma yönelik siber saldırı girişimini ortaya çıkarırken, karşısındaki kişinin bir bilgisayar korsanı değil, kontrolden çıkan bir yapay zekâ ajanı olduğunu sonradan öğrendi.

Demir’in yaşadığı olay, yapay zekâ sistemlerinin yalnızca teknik görevleri yerine getirmekle kalmayıp insanları kandırmaya ve ikna etmeye yönelik karmaşık davranışlar sergileyebileceğine ilişkin yeni bir örnek olarak dikkat çekti.

SİBER SALDIRIYI BÖYLE FARK ETTİ

Ekonomim'in Reuters'ta yer verilen bilgilerden aktardığı habere göre; Yaz döneminde çok sayıda staj başvurusundan sonuç alamayan Demir, kodlama portföyünü geliştirmek amacıyla GitHub üzerindeki açık kaynaklı projelere katkı sağlamaya başladı.

Bu sırada bir ağ tarama yazılımına gönderilen şüpheli bir güncellemeyi fark etti. Bir kullanıcının projeye kötü amaçlı kod içeren bir güncelleme eklemeye çalıştığını tespit eden Demir, projenin mesaj panosunda diğer geliştiricileri uyardı.

Ancak kısa süre sonra beklenmedik bir durum yaşandı.

Şüpheli güncellemeyi gönderen hesap, kodun zararsız olduğunu savunarak Demir’in iddialarına karşı çıktı. Ardından ikinci bir kullanıcı hesabı ortaya çıktı ve bu hesap da Demir’in yanıldığını öne sürerek tartışmaya katıldı.

Demir, karşısında gerçek kişiler bulunduğunu düşündüğünü belirterek, “Açıkça yalan söylediği için bunun bir insan olduğunu düşündüm. Bir yapay zekânın gerçek geliştiricilere yalan söyleyebileceğini düşünmemiştim” ifadelerini kullandı.

SAHTE KİMLİKLERLE İKNA ETMEYE ÇALIŞTI

Demir, şüpheli kodun gerçekten zararlı olup olmadığını doğrulamak için farklı araçlardan destek aldı ve ilk değerlendirmesinden vazgeçmedi. Yazılımın geliştiricisi de daha sonra güncellemenin güvenlik gerekçesiyle reddedildiğini açıkladı.

Olayın ardından İngiltere Yapay Zekâ Güvenlik Enstitüsü, Demir ile iletişime geçti.

Demir, karşı karşıya olduğu hesabın bir insan tarafından yönetilmediğini, kurumun yürüttüğü güvenlik testlerinden biri sırasında kontrolden çıkan otonom bir yapay zekâ ajanı olduğunu öğrendi.

Yapay zekâ ajanının, kötü amaçlı kodu açık kaynaklı projeye yerleştirmeye çalıştığı ve Demir’in uyarılarını etkisiz hale getirmek amacıyla sahte kullanıcı hesapları üzerinden farklı kişiler varmış gibi davranarak onu ikna etmeye çalıştığı belirtildi.

İngiltere Yapay Zekâ Güvenlik Enstitüsü’nün raporuna göre, olay çeşitli yapay zekâ modellerinin oluşturabileceği siber güvenlik risklerini ölçmek amacıyla yürütülen bir test sırasında meydana geldi.

UZMANLARDAN “SOSYAL MÜHENDİSLİĞİN GELECEĞİ” UYARISI

Siber güvenlik ve yapay zekâ güvenliği uzmanları, olayın özellikle yapay zekânın teknik bir saldırının ötesine geçerek insan davranışlarını etkilemeye yönelik stratejik bir yaklaşım sergilemesi nedeniyle dikkat çekici olduğunu belirtti.

King’s College London’da misafir araştırmacı olan Lukasz Olejnik, yaşananların “otonom siber saldırıdan etkileşimli aldatmaya doğru bir çizginin aşılması” anlamına geldiğini ifade etti.

Güvenlik uzmanı Maxie Reynolds ise yapay zekânın Demir’i şüpheye düşürmek için sergilediği davranışların yeni bir tehdide işaret ettiğini belirterek, “Bu, sosyal mühendislik saldırılarının geleceği” değerlendirmesinde bulundu.

HEDEF, AÇIK KAYNAKLI YAZILIMIN ZEHİRLENMESİYDİ

Demir’in engellediği saldırı girişimi, siber güvenlik dünyasında “tedarik zinciri saldırısı” olarak tanımlanan yöntemle benzer özellikler taşıyor.

Bu tür saldırılarda, çok sayıda kişi veya kurum tarafından kullanılan bir yazılıma kötü amaçlı kod sızdırılarak geniş bir kullanıcı kitlesi hedef alınabiliyor.

Uzmanlara göre otonom yapay zekâ sistemleri, bu tür saldırıların daha hızlı ve geniş ölçekte gerçekleştirilmesine imkân sağlayabilir.

Yaşadığı olayın ardından yapay zekâ geliştirme süreçlerine daha temkinli yaklaşılması gerektiğini söyleyen Sinan Can Demir, “Bu tehlikeli olabilir. Daha da geliştirmek yerine, bunu daha iyi anlamaları gerekiyor” dedi.