È noto come i cybercriminali facciano già ampio ricorso a strumenti di Intelligenza Artificiale per accelerare, attraverso processi di automazione, la ricerca e l’individuazione di vulnerabilità e di risorse critiche esposte. Questo non riguarda soltanto le infrastrutture critiche fisiche e la convergenza tra OT e IT, ma anche risorse digitali come software ampiamente utilizzati all’interno delle organizzazioni.
In tale contesto, Anthropic, azienda specializzata nello sviluppo di modelli frontier AI, ha recentemente annunciato l’evoluzione delle capacità del proprio modello LLM Claude Mythos Preview nell’individuazione delle vulnerabilità. Nei primi test condotti, il modello è stato in grado di rilevare un elevato numero di vulnerabilità zero-day, ovvero falle di sicurezza ancora non note e non corrette, su sistemi operativi, browser web e software critici. L’azienda ha inoltre evidenziato che la maggior parte di queste vulnerabilità non è ancora stata corretta, includendo migliaia di falle di gravità elevata e critica, in alcuni casi relative a bug di sicurezza presenti da oltre vent’anni.
Due sono i punti interessanti, e al contempo allarmanti, da rimarcare: il modello LLM in oggetto ha sviluppato queste spiccate capacità di identificare vulnerabilità zero-day come effetto collaterale degli avanzamenti fatti nelle capacità di ragionamento, coding e programmazione. Ma ancora più eclatante è la capacità che il modello AI ha mostrato nel saper sfruttare questi bug di sicurezza per costruire in totale autonomia exploit complessi, concatenando più vulnerabilità in maniera estremamente veloce, trasformando bug appena scoperti in attacchi funzionanti. Il caso Mythos Preview evidenzia pertanto il potenziale incremento esponenziale della velocità di individuazione delle vulnerabilità che modelli di Intelligenza Artificiale di questo tipo possono garantire, contribuendo alla riduzione dei tempi di intervento e di risposta a disposizione delle aziende.
Se modelli LLM come Mythos Preview possono avere ricadute sul fronte offensivo della sicurezza informatica, gli stessi strumenti possono però altresì essere impiegati per rafforzare le difese e la robustezza del software e delle risorse digitali delle aziende. Per questa ragione, Antrhopic ha annunciato la decisione di non rendere disponibile pubblicamente questo nuovo modello, avviando invece Project Glasswing, progetto che coinvolge diversi partner industriali globali e organizzazioni che operano su software critico, con l’obiettivo di trovare e correggere vulnerabilità prima che gruppi di attaccanti possano individuarle e sfruttarle mediante modelli AI con capacità analoghe. L’azienda ha anche destinato un forte impegno economico a sostegno di questo ecosistema difensivo abilitato dalle capacità di scoperta delle vulnerabilità della AI.
Se quindi da un lato l’automazione della ricerca di vulnerabilità diviene sempre più rapida ed efficace, è essenziale che anche i controlli difensivi cambino marcia e paradigma, divenendo altrettanto rapidi e sistematici. Per le aziende, diverse sono le misure da adottare in tale senso, a partire da una maggiore attenzione ai processi di patching e triage, oltre ad assegnare maggior valore e risorse alle attività proattive di code review, hardening, fuzzing e threat modeling.
Dal punto di vista delle procedure e tecniche di cyberseurity, di fronte alla velocità supportata dalla AI nella vulnerability discovery le aziende devono darsi una serie di priorità, tra cui:
- Gestione più rigorosa di vulnerabilità e patch
- Revisione del codice supportata da tool di AI con la validazione di esperti, con adozione responsabile della AI nella security testing
- Rafforzamento delle tecniche di detection & response
- Accelerazione del modello zero-trust
- Monitoraggio continuo degli asset esposti
- Riduzione della superficie di attacco
- Segmentazione dei sistemi in rete
- Aggiornamento della valutazione del rischio alle capacità dell’AI
Infine, una riflessione sulle ultime normative europee in tema di sicurezza informatica alla luce della nuova velocità imposta dai progressi dell’AI in ambito di cybersecurity: una vulnerabilità singola con prove di exploitation può far scattare al contempo tre regimi di reporting, previsti da NIS2, Cyber Resilience Act e DORA. Un SOC che analizza manualmente migliaia di finding accumula però mesi di arretrati, laddove i primi termini per la notifica significativa (NIS2), per la segnalazione anticipata (CRA) o per il report iniziale (DORA) scadono entro poche ore. Il cambio di marcia che l’AI in funzione offensiva porta nella scoperta di vulnerabilità e nella messa a punto di attacchi funzionanti, abbassando la soglia tecnica per operare campagne offensive più sofisticate, porta quindi a un volume di eventi che l’attuale framework regolatorio non aveva previsto. Come rilevano quindi gli analisti, il volume di scoperte AI-driven diventa già incompatibile con i tempi del triage manuale e delle comunicazioni alle autorità competenti.