L’intelligenza artificiale è un alleato particolarmente utile per le attività aziendali, industriali, sociali e culturali ma è anche un potente strumento per gli hacker di nuova generazione. Con l’AI è possibile minacciare in maniera automatizzata, più veloce, più economica e soprattutto più accessibile i sistemi oggetti dell’attacco.
I modelli linguistici di grandi dimensioni (LLM) sono in grado di analizzare i sistemi bersaglio, di generare codice, di produrre attacchi più mirati con uno sforzo manuale molto ridotto rispetto a solo qualche anno fa. Gli automatismi degli attacchi e delle aggressioni avvengono comunque sempre sotto la decisione dell’hacker umano il quale, sfruttando diverse funzioni di ricognizione, di phishing o di ricerca di obiettivi vulnerabili, attua le proprie violazioni in maniera molto efficiente.
I criminali informatici utilizzano l'IA in alcune aree ben determinate: creazione di strumenti di payload che producono attacchi attraverso la generazione di un carico di dati per la compromissione del sistema, creazione di e-mail di phishing particolarmente realistiche, ricerca e mappatura degli obiettivi, automazione strutturata di attacchi.
Fra queste aree quella che riveste un interesse e un’attenzione maggiore per il pubblico riguarda il phishing e l’ingegneria sociale basata sull’intelligenza artificiale. Infatti, le truffe tradizionali sono state superate da una qualità dell’attacco decisamente migliore. Oggi il phishing è personalizzato, le e-mail indirizzate ai destinatari sono maggiormente credibili proprio per il maggiore dettaglio del contenuto, ora più ricco di informazioni relative al soggetto bersagliato. A differenza delle truffe tradizionali, le e-mail di phishing generate dall'intelligenza artificiale sono raffinate e convincenti. Strumenti come ChatGPT e WormGPT producono messaggi che imitano le comunicazioni interne, il servizio clienti o gli aggiornamenti delle risorse umane. Se abbinate ai dati violati, queste e-mail diventano personalizzate e hanno maggiori probabilità di successo.
Anche la clonazione della voce diventa un elemento di ulteriore vantaggio per gli hacker che possono effettuare chiamate per condizionare e manipolare più facilmente i loro obiettivi. Vi sono attacchi di clonazione vocale che, sfruttando brevi tracce sonore, compongono comunicazioni verbali di senso compiuto in grado di condizionare il comportamento del destinatario del messaggio. Sono citati da più parti esempi di imitazioni verosimili con le quali importanti dirigenti aziendali invitano i propri dipendenti ad effettuare bonifici bancari.
Sempre nel campo dei messaggi multimediali sono noti attacchi ottenuti grazie alla simulazione di video chiamate o di riunioni a distanza. Gli attacchi deepfake utilizzano audio o video generati dall'intelligenza artificiale per impersonare le persone in tempo reale. Abbinati a tattiche di social engineering, questi strumenti vengono utilizzati per frodi, furti di credenziali e accessi non autorizzati ai sistemi. La clonazione vocale è diventata particolarmente pericolosa. Con pochi secondi di parlato registrato, gli attori delle minacce possono generare un audio che imita il tono, il ritmo e l'inflessione. Queste voci clonate vengono poi utilizzate per impersonare dirigenti o manager, ingannare i dipendenti, superare i sistemi di autenticazione vocale.
I deepfake fanno un ulteriore passo avanti generando video sintetici. Gli attori delle minacce possono simulare un amministratore delegato durante una videochiamata che richiede dati riservati, oppure apparire in clip registrate che "annunciano" cambiamenti di policy che diffondono disinformazione.
Con l'aumento dell'accesso agli strumenti di intelligenza artificiale, anche i piccoli attori delle minacce possono generare impersonificazioni ad alta fedeltà. Questi attacchi aggirano i filtri antispam tradizionali o le difese degli endpoint sfruttando la fiducia.
