Google Threat Intelligence Group, hackerların yapay zekayı kullanarak geliştirdiği ilk sıfır-gün saldırısını tespit ettiğini açıkladı. Şirkete göre saldırganlar popüler bir açık kaynak sistem yönetim aracındaki güvenlik açığını keşfetmek ve kullanıma hazır hale getirmek için yapay zekadan destek aldı.
Google’ın raporuna göre saldırı, kullanıcı giriş bilgilerini ele geçirdikten sonra iki faktörlü kimlik doğrulama sistemini (2FA) aşabiliyordu. Bu durumun özellikle kripto hesapları ve cüzdanlar açısından ciddi risk oluşturduğu belirtilirken saldırı kodlarında yer alan bazı “AI halüsinasyonları” ve veri yapılarının yapay zeka kullanımına işaret ettiği ifade edildi.
Şirket, saldırının klasik yazılım hatalarından değil geliştiricilerin sisteme gömdüğü yanlış güven varsayımlarından kaynaklandığını söyledi. Google’a göre gelişmiş büyük dil modelleri (LLM’ler) bu tür üst düzey mantık hatalarını tespit etmede oldukça başarılı hale geldi. Raporda ayrıca bazı kötü amaçlı yazılımların da yapay zekayı kullanarak zararlı kodlarını gizlediği aktarıldı.
İlginizi Çekebilir: Renegade Saldırısında 190 Bin Dolar İade Edildi
Google, özellikle Çin ve Kuzey Kore bağlantılı hacker gruplarının yapay zekayı siber saldırılarda kullanmaya yoğun ilgi gösterdiğini belirtti. Şirket, yapay zekanın üretim sistemlerine daha fazla entegre edilmesiyle birlikte AI ekosisteminin yeni bir saldırı alanına dönüştüğünü ve tehditlerin giderek daha organize hale geldiğini vurguladı.