L’intelligenza artificiale sta entrando prepotentemente nelle realtà aziendali in diversi processi strategici, e quello della sicurezza non fa certo eccezione. L’IA non è solo uno strumento innovativo: per molti è ormai un tassello fondamentale nelle strategie di cybersecurity.
Lo conferma un recente studio del Capgemini Research Institute, che ha coinvolto 1.000 imprese in 12 settori diversi, dal titolo “New defenses, new threats: what AI and Gen AI bring to cybersecurity”.
Secondo la ricerca, due organizzazioni su tre hanno già inserito l’IA tra le priorità, soprattutto per la sua capacità di passare al setaccio enormi quantità di dati e riconoscere rapidamente schemi di attacco. Questo significa avere la possibilità di anticipare le mosse dei criminali informatici e ridurre i tempi di reazione.
I rischi potenziali
Come sempre, però, accanto agli indubbi vantaggi ci sono anche dei possibili rischi. Le tecnologie generative, capaci di creare testi, immagini e video difficilmente distinguibili dal reale, rappresentano un’arma a doppio taglio. Ben il 97% delle aziende intervistate dichiara di aver già affrontato incidenti di sicurezza collegati alla Gen AI.
I cybercriminali, sfruttando questi strumenti, riescono a ideare attacchi più sofisticati, che aggirano i controlli tradizionali e mettono in difficoltà anche gli strumenti difensivi più avanzati. Oltre quattro aziende su dieci hanno ammesso di aver subito perdite economiche legate all’uso di deepfake e contenuti falsificati. Non sorprende che circa sei organizzazioni su dieci stiano pensando di aumentare il budget destinato alla cybersecurity.
I pericoli legati agli errori interni
Dal report emerge anche un ulteriore aspetto, spesso sottovalutato: i rischi legati all’uso imprudente dell’intelligenza artificiale da parte dei dipendenti. Mancanza di formazione e di linee guida chiare possono portare a fughe di dati, errori e vulnerabilità.
Tra le criticità più frequenti figurano le cosiddette “allucinazioni” dei modelli (risposte sbagliate o fuorvianti), la produzione di contenuti non adatti al contesto e gli attacchi “prompt injection”, che mirano a manipolare gli stessi sistemi di IA, come chatbot e assistenti virtuali.
Cresce inoltre la preoccupazione per la gestione dei dati utilizzati per addestrare i modelli: se queste informazioni venissero manipolate o sottratte, le conseguenze potrebbero essere gravi, sia sul piano della privacy sia su quello economico.
Nuove tecnologie, necessaria una formazione adeguata
Di fronte a questo scenario, il messaggio è chiaro: l’IA e la Gen AI non possono essere viste solo come un rischio o solo come una risorsa. Sono entrambe le cose. Per sfruttarne i benefici senza cadere vittima delle loro insidie, le aziende dovranno puntare non solo su tecnologie sempre più sofisticate, ma anche sulla formazione delle persone che le utilizzano.
L’obiettivo dei prossimi anni sarà proprio questo: trasformare l’intelligenza artificiale in un alleato affidabile nella battaglia contro le minacce digitali.