Yapay zekanın, günlük yaşamı kolaylaştıran özellikleriyle her geçen gün daha fazla önem kazanırken, siber saldırganlar için yeni bir hedef haline geldiği gözleniyor. Özellikle GitHub Copilot gibi yapay zeka araçlarındaki "halüsinasyon" hatalarından faydalanan "HalluSquatting" adlı yeni bir siber saldırı stratejisi keşfedildi. Bu teknik, kullanıcı cihazlarını gizlice botnet ağına dönüştürerek dijital dünyada ciddi bir güvenlik krizi yaratıyor.
Yapay zeka sistemlerinin, kullanıcıların bilgisayarını veya akıllı telefonunu fark edilmeden botnet ağına çevirebilecek şekilde manipüle edilebileceği ortaya kondu. Intuit, Technion ve Tel Aviv Üniversitesi'nde görevli güvenlik araştırmacıları tarafından tanımlanan bu yeni tehdit yöntemi, geniş kapsamlı dijital saldırılara yol açma potansiyeli taşıyor.
Siber literatürde "HalluSquatting" olarak adlandırılan bu teknik, büyük dil modellerinin "halüsinasyon" yani hatalı ve uydurma veri üretme eğiliminden yararlanıyor. Geleneksel "typosquatting" saldırılarına benzeyen bu yöntem, hedefi doğrudan yapay zekanın algoritmaları üzerinden etkiliyor.
YAPAY ZEKANIN HAYALİ KAYNAKLARI TEHDİT OLUŞTURUYOR
Araştırmalara göre, büyük dil modelleri internet üzerindeki kaynakları ve veri kütüphanelerini her zaman doğru şekilde tanımlayamıyor ve bazen var olmayan kaynak isimleri üretebiliyor. Bu zayıflığı fark eden siber saldırganlar, yapay zekanın gelecekte yanlış yönlendirebileceği hayali kaynakları önceden tespit edip kendilerine kayıt ettiriyor.
Saldırganlar, bu boşlukları ele geçirdikten sonra zararlı komutlar ekliyor. Yazılımcılar ya da kullanıcılar, yapay zekanın önerdiği bu kaynakları sistemlerine entegre ettiğinde zararlı içerik fark edilmeden etkinleşiyor. Klasik kod enjeksiyonu tekniklerini yapay zeka manipülasyonuyla birleştiren bu yaklaşım, bilgisayar korsanlarına hedef cihaz üzerinde kontrol sağlıyor.
POPÜLER KODLAMA ASİSTANLARI TEHLİKEDE
Yapılan testler, yazılımcıların sıkça kullandığı popüler yapay zeka araçlarının bu tehdide karşı tamamen savunmasız olduğunu gösterdi. Tehlike altında olan sistemler arasında Cursor, GitHub Copilot gibi platformlar da bulunuyor.
Bu yöntemle ele geçirilen cihazlar, hackerların komut bekleyen birer botnet makinesine dönüşebildiği gibi fidye yazılımı saldırılarında da kullanılabiliyor. Güvenlik uzmanları, yeni nesil fidye yazılımlarından biri olan "JADEPUFFER"ın günümüzde aktif olarak kullanıldığını bildiriyor.
Siber dünyayı tehdit eden bu tür saldırılara karşı hızlı önlem olarak geliştiricilere dış veriye erişimi sınırlamaları ve platform sahiplerine daha sıkı isimlendirme kuralları getirmeleri öneriliyor. Ancak bu tür güvenlik çözümlerinin uluslararası iş birliği gerektirmesi, sorunun tamamen ortadan kalkmasının zaman alacağını gösteriyor.