Yapay zekâ, muhasebecilerin kabusu oldu: Sahte fişler artık neredeyse ayırt edilemiyor

Eskiden küçük çaplı hilelerle sınırlı kalan bu yöntem, artık o kadar gelişmiş durumda ki tespiti neredeyse imkânsız hale geldi. SAP Concur yöneticisi Chris Juneau, durumu şöyle özetliyor: “Bu fişler o kadar gerçekçi ki, müşterilerimize ‘Gözlerinize güvenmeyin’ diyoruz.”

ChatGPT ve Gemini ile sahte fiş üretmek çocuk oyuncağı

Artık ücretli kullanıcı olmanıza bile gerek yok. ChatGPT’ye birkaç doğal dil komutu girildiğinde, gerçeğinden ayırt edilemeyen yemek veya ulaşım fişleri saniyeler içinde oluşturulabiliyor. Şirketlerin günlük binlerce belge arasında bu sahte fişleri fark etmesi neredeyse imkânsız hale geldi.

Ortalama kayıp 133 bin dolar

Medius’un 2024 raporuna göre, yalnızca ABD’de bu tür dolandırıcılıklardan doğan ortalama zarar 133 bin dolar. OpenAI ise bu tür kötüye kullanımları azaltmak için görsellerine meta veriler eklemeye başladı. Böylece içeriğin yapay zekâ tarafından üretildiği tespit edilebiliyor.

Fintech şirketi Ramp, bu verileri analiz eden bir yapay zekâ aracı geliştirerek sadece 90 günde 1 milyon dolar değerinde sahte fiş tespit ettiklerini açıkladı.

Hileye karşı hile: Yapay zekâ yapay zekâyı yakalıyor

Ancak dolandırıcılar da boş durmuyor. Meta veriyle yakalanmamak için yapay zekâyla ürettikleri fişlerin fotoğrafını çekip belgeye eklemeye başladılar. Böylece sistemin algıladığı meta veriler ortadan kalkıyor.

Ramp CTO’su Karim Atiyeh’e göre bu bir “sürekli silahlanma yarışı”:

“Tek yapmamız gereken, trendlerin önünde kalmak.”

Yeni geliştirilen doğrulama sistemleri ise artık fişin içeriğine, tarihine, seyahat süresine ve tutarlılığına bakarak sahte olup olmadığını anlamaya çalışıyor. Ramp Ürün Direktörü Calvin Lee, bu süreci şöyle özetliyor:

“Teknoloji o kadar ayrıntılı analiz yapabiliyor ki, insanlar bir süre sonra bazı şeyleri gözden kaçırıyor. Sonuçta onlar da insan.”