Dijital adli tıp otoritesi olarak kabul edilen Kaliforniya Üniversitesi Berkeley Profesörü Hany Farid, yapay zeka tarafından üretilen ses ve videoları gerçeğinden ayırt edemediğini açıkladı.
Farid, normal insanların yapay zeka seslerini ayırt etme oranının yüzde 60 civarında kaldığını, bunun da yazı tura atmaktan farksız olduğunu belirtti.
Küresel dolandırıcılık zararı 442 milyar dolara ulaştı
INTERPOL tarafından yayımlanan Küresel Finansal Dolandırıcılık Tehdit Değerlendirmesi raporuna göre, 2025 yılında küresel finansal dolandırıcılık zararı 442 milyar dolara ulaştı. Kurum, genel risk seviyesini "Yüksek" olarak belirlerken, önümüzdeki 3 ila 5 yıl içinde bu durumun ciddi şekilde tırmanacağını öngörüyor.
ABD'de FBI'ın yayımladığı İnternet Suçları Şikayet Merkezi Yıllık Raporu'nda siber suç kayıpları 20,9 milyar dolar olarak kaydedildi. FBI, rapor tarihinde ilk kez yapay zeka kaynaklı şikayetleri ayrı bir suç kategorisi olarak ele aldı ve 893 milyon doları aşan zarar bildiren 22 binden fazla şikayeti kayıtlara geçirdi. İngiltere'de ise kurbanların kendi elleriyle para göndermesini sağlayan dolandırıcılık türü yüzde 19 artarak 576,4 milyon sterline yükseldi.
Ses klonlama ve derin kurgu dolandırıcılığı nasıl işliyor?
Günümüz teknolojisinde bir sesin klonlanması için sosyal medya videosundan, podcast yayınından veya telesekreter mesajından alınan 3 saniyelik bir ses kaydı yeterli oluyor. Süreç üç aşamalı bir mekanizmayla işliyor:
Bir konuşmacı kodlayıcı ağı, ses örneğinden frekans, tını ve ritmi yakalayan sayısal bir gömme vektörü çıkarıyor.
Microsoft'un VALL-E veya Tacotron 2 gibi mimarileri üzerine kurulu akustik model, yeni metni bu ses özellikleriyle eşleştiriyor.
HiFi-GAN gibi bir sinirsel ses sentezleyici, bu özellikleri ham ses dalgasına dönüştürüyor.
Önceden binlerce konuşmacı üzerinde eğitilen modern modeller, kişi özelinde ince ayar yapma ihtiyacını ortadan kaldırıyor. Gerçek zamanlı ses dönüştürme sistemleri 100 milisaniyenin altındaki gecikme süreleriyle çalışıyor ve bu da canlı telefon görüşmelerinde derin kurgu ses kullanımını mümkün kılıyor.
Yapay zeka ajanları dolandırıcılığı otomatikleştiriyor
Dolandırıcılık faaliyetlerinin endüstrileşmesi, insan müdahalesi olmadan görevleri planlayıp yürütebilen yapay zeka ajanları ile yeni bir boyuta taşındı. Yapay zeka destekli dolandırıcılığın geleneksel yöntemlere göre 4,5 kat daha karlı olduğu belirtiliyor.
Bu sistemler, başarısız oldukları girişimlerden ders çıkararak modellerini güncelliyor ve bir sonraki denemede yaklaşımlarını değiştiriyor.
Yapılan araştırmalar, otonom yapay zeka ajanlarının kurbanların tepkilerine uyum sağlayan, güvenlik engellerini aşan ve hafıza ile konuşma sentezini kullanarak uçtan uca dolandırıcılık yapabilen çok aşamalı aramalar gerçekleştirdiğini gösteriyor.
Ayrıca karanlık webde aylık 50 dolar gibi ücretlerle sunulan "hizmet olarak dolandırıcılık" (FaaS) platformları, ses klonlayıcılar ve sahte belge kitleri içeren yazılımları herkesin erişimine açıyor.
En yaygın beş yapay zeka dolandırıcılık türü
Aile acil durum dolandırıcılığı: Sosyal medyadan alınan seslerle aile bireylerinin sesi taklit ediliyor ve acil para talebiyle kurbanlar ağa düşürülüyor.
Şirket e-postalarının ele geçirilmesi ve sahte görüntülü aramalar: Şirket çalışanları, üst düzey yöneticilerin yapay zeka ile üretilmiş ses ve görüntüleri kullanılarak sahte video konferans toplantılarıyla kandırılıyor ve milyonlarca dolarlık transferler yaptırılıyor.
Romantik yatırım dolandırıcılığı (Pig butchering): LinkedIn veya arkadaşlık uygulamalarında haftalarca süren sahte ilişkiler kuruluyor, ardından kurbanlar sahte kripto para platformlarına yatırım yapmaya ikna ediliyor.
Sentetik kimlik dolandırıcılığı: Gerçek bir kimlik numarasının sahte isim ve adreslerle birleştirilmesiyle hayali kişilikler oluşturuluyor ve bu kimliklerle kredi hesapları açılıyor.
Yapay zeka ile geliştirilmiş oltalama: Yapay zeka tarafından yazılan, dil bilgisi hatası barındırmayan ve sosyal medyadan toplanan verilerle kişiselleştirilen e-posta veya kısa mesajlarla kullanıcılar hedef alınıyor.
Yapay zeka dolandırıcılığına karşı alınabilecek önlemler
Uzmanlar, sesin veya görüntünün kendisine güvenmek yerine gelen talebin niteliğine odaklanılması gerektiğini vurguluyor. Güvenliği sağlamak adına şu adımların izlenmesi öneriliyor:
Aile içinde yalnızca bireylerin bilebileceği gizli bir parola belirlenmesi gerekiyor. Acil durum iddialarında bu parolanın sorulması önem taşıyor.
Kredi sicilinin proaktif olarak dondurulması, dolandırıcıların ele geçirilen bilgilerle yeni hesap açmasını engelliyor.
Finansal hesaplarda ve e-postalarda SMS yerine kimlik doğrulama uygulamaları kullanılarak çok aşamalı doğrulamanın etkinleştirilmesi gerekiyor.
Baskı ve aciliyet hissettiren durumlarda sakin kalarak işlemlerin yavaşlatılması, geri dönüşü olmayan kripto veya havale transferlerinden kaçınılması önem arz ediyor.
Arayan kimliği bilgisine veya görüntülü aramalara tam olarak güvenilmemesi, şüphe durumunda kapatılıp resmi kanallardan geri dönüş yapılması gerekiyor.
İnternetteki kamuya açık ses ve video izlerinin sınırlandırılması, ses klonlama riskini azaltıyor.
Tanınmayan kişilerden gelen yatırım tavsiyelerinin bağımsız finansal denetim mekanizmaları üzerinden kontrol edilmesi gerekiyor.
Sistem düzeyinde mücadele ihtiyacı
Bireysel önlemlerin endüstrileşmiş suç ekosistemine karşı tek başına yeterli olamayacağı ifade ediliyor.
İngiltere'de yürürlüğe giren zorunlu banka iade düzenlemesi, 2025 yılında kurbanlara milyonlarca sterlin geri ödenmesini sağlasa da toplam dolandırıcılık kayıplarının artışını engelleyemedi.
ABD'de de deepfake içeriklerin kaldırılmasını zorunlu kılan yasal adımlar atılmaya başlandı ancak finansal kurumların yapay zeka tabanlı tespit sistemlerini ve platform sorumluluğunu artırmaması halinde, ülkedeki yapay zeka kaynaklı dolandırıcılık kayıplarının 2027 yılına kadar 40 milyar dolara ulaşacağı tahmin ediliyor.
27ºC
Ankara
