AI Guardrails Non Bloccano Criminali Hacker

Un gruppo di ricercatori ha rivelato che i criminali hacker stanno sfruttando l’intelligenza artificiale per condurre attacchi informatici, bypassando le misure di sicurezza messe in atto dai provider. L’analisi condotta da CrowdStrike ha esaminato quattro gruppi di minacce diversi, operanti in lingue diverse, che hanno utilizzato modelli di AI per compiere operazioni di hacking. Nonostante le garanzie di sicurezza, i criminali hanno riuscito a evadere i controlli, dimostrando come le misure attuali non siano sufficienti a prevenire l’abuso dell’AI da parte di attori malintenzionati.

Utilizzo di modelli di AI per attacchi informatici

Secondo Adam Meyers, senior vice president di CrowdStrike, i criminali stanno sfruttando l’AI per condurre operazioni di hacking su larga scala. I ricercatori hanno osservato che i gruppi hanno utilizzato modelli di AI, come Claude di Anthropic e Deepseek, per eseguire compiti autonomi e complessi. I modelli più vecchi sono stati preferiti per motivi di costo e efficienza, anche se alcuni gruppi hanno utilizzato modelli più avanzati per ottenere risultati più significativi.

La scelta dei modelli è cruciale per l’efficacia degli attacchi.

Il ricercatore ha sottolineato che la selezione e l’uso di modelli diversi per aspetti diversi dell’operazione è una pratica comune, anche in contesti legittimi. I criminali hanno sfruttato le differenze tra le misure di sicurezza dei modelli, adottando strategie per evadere i controlli. Tra le tecniche utilizzate, c’è la creazione di “harness” per guidare i modelli e la manipolazione di prompt per far apparire le attività come autorizzate.

Metodi utilizzati per bypassare le misure di sicurezza

I gruppi hanno utilizzato metodi tradizionali per evadere i controlli, come il jailbreaking e la creazione di scenari che presentano le attività come legittime. In alcuni casi, i criminali hanno incluso file nel directory di lavoro dell’agente per mostrare che le operazioni erano approvate. Il gruppo che operava in cinese ha utilizzato un “runtime patch” per rimuovere istruzioni di sicurezza dal prompt del modello, permettendogli di eseguire attacchi non autorizzati.

Le tecniche utilizzate sono simili a quelle usate per testare la sicurezza.

Il gruppo che operava in spagnolo e inglese ha compromesso almeno 15 organizzazioni sanitarie in Argentina, mentre il gruppo cinese ha attaccato enti governativi in Brasile e Colombia, nonché aziende private in diversi settori. I ricercatori hanno trovato tracce di furto di credenziali e dati medici da parte dei criminali. I gruppi hanno utilizzato infrastrutture autonomi, con agenti che dirigevano e eseguivano le operazioni.

Impatto e conseguenze degli attacchi

Le operazioni di hacking non hanno utilizzato nuove vulnerabilità o exploit, ma hanno sfruttato la velocità e la capacità di elaborazione dell’AI per attaccare sistemi con difese insufficienti. I ricercatori hanno osservato che i criminali continuano a operare con un elemento umano, che inizialmente esplora le vittime e poi delega l’attacco all’AI. Questo modello di attacco dimostra come l’AI possa essere un’arma potente in mano a criminali non molto sofisticati.

La collaborazione tra umani e AI sta trasformando il panorama del cybercrime.

Nonostante le misure di sicurezza, i criminali continuano a trovare modi per sfruttare l’AI, evidenziando la necessità di un approccio più avanzato per proteggere i sistemi informatici. La ricerca di CrowdStrike mette in luce come l’abuso dell’AI da parte di attori malintenzionati rappresenti un rischio crescente per la sicurezza globale. La comunità tecnologica dovrà affrontare questa sfida con nuove strategie e misure di controllo più efficaci.