Oggi, in qualunque realtà aziendale, l’Intelligenza Artificiale è uno dei temi più caldi. Considerata strategica per tutti i processi, l’IA ha anche un ruolo fondamentale nelle policicliche relative alla cybersecurity. Ma qual’è la realtà dei fatti? Un recente studio del Capgemini Research Institute, condotto su un campione di 1.000 aziende e intitolato “New defenses, new threats: what AI and Gen AI bring to cybersecurity”, evidenzia come queste tecnologie possano rafforzare le difese digitali ma, allo stesso tempo, aprano la strada a minacce del tutto nuove.
Attualmente due terzi delle organizzazioni considerano l’IA una priorità nelle proprie strategie di sicurezza, soprattutto per la capacità di analizzare enormi quantità di dati e individuare preventivamente i rischi prima che si trasformino in attacchi concreti. Una funzione fondamentale in un contesto in cui la rapidità di risposta può fare la differenza tra una violazione gestibile e un danno milionario.
L’altra faccia della medaglia
La diffusione della cosiddetta Gen AI, in grado di produrre testi, immagini e contenuti sempre più realistici, ha però aperto scenari inquietanti. Il 97% delle imprese coinvolte nella ricerca ha dichiarato di aver riscontrato nell’ultimo anno roblemi di sicurezza legati a queste tecnologie. I cybercriminali, infatti, possono sfruttarle per costruire attacchi sofisticati e difficili da riconoscere.
Oltre il 40% delle aziende ammette di aver subito perdite economiche causate da deepfake o contenuti manipolati artificialmente. Non sorprende, quindi, che sei organizzazioni su dieci stiano valutando un aumento del budget destinato alla protezione informatica.
Quando l’IA ha le ‘allucinazioni’
Il report sottolinea anche i rischi derivanti da un utilizzo imprudente dell’IA da parte dei dipendenti. Mancanza di formazione e scarsa consapevolezza possono tradursi in fughe di dati o errori costosi. Tra i problemi più diffusi emergono le cosiddette “allucinazioni” – risposte errate o fuorvianti dei modelli – la creazione di contenuti inappropriati e i cosiddetti “prompt injection”, ossia manipolazioni mirate a sfruttare le debolezze dei chatbot e degli assistenti virtuali.
A ciò si aggiunge il timore legato alla gestione dei dati: informazioni sensibili utilizzate per l’addestramento degli algoritmi potrebbero finire in mani sbagliate o essere manipolate, con conseguenze gravi per la privacy e la competitività delle imprese.
Quale sarà la sfida dell’immediato futuro?
Nonostante i rischi, IA e Gen AI restano strumenti imprescindibili per affrontare il futuro della sicurezza informatica. Il punto, sottolinea Capgemini, non è fermarne l’adozione, ma imparare a gestirne potenzialità e i potenziali rischi.
Per le aziende la strada passa da due direttrici: investire in soluzioni tecnologiche di nuova generazione e, parallelamente, formare il personale perché sia in grado di usare queste risorse in modo consapevole. Solo così sarà possibile trasformare l’intelligenza artificiale da minaccia a vero alleato nella difesa digitale.