Che cosa sta succedendo
In un'intervista al podcast Decoder di The Verge, il chief security officer di Cognition e docente allo Stanford Cyber Policy Center Alex Stamos descrive un ottobre definito ironicamente 'mese della consapevolezza sulla sicurezza' segnato da violazioni in serie. Secondo la fonte, diverse aziende legate all'IA e le cosiddette 'neocloud' sarebbero state compromesse in successione, insieme a episodi citati come l'hack di Binance, definito da Stamos il più grande furto della storia umana, e l'incidente Cursor.
Stamos ricostruisce una catena di attacchi: dalla compromissione di Fireworks, indicata come fornitore di servizi IA, sarebbero state rubate chiavi API usate per entrare in Cursor; da lì sarebbe stato diffuso un plugin malevolo verso circa 5.000 altre aziende, con altrettante potenziali violazioni. È il fenomeno che l'esperto chiama 'violazione continua permanente' nel settore tecnologico. Un collega CISO, riferisce, ha chiesto in un gruppo se altri fossero stanchi: la risposta è stata unanime, perché il settore è stato di fatto a livello di allerta massima per tutto ottobre e ora anche a novembre.
La catena d'attacco si inverte
Il punto centrale dell'analisi riguarda l'automazione. Stamos sostiene che i modelli a pesi aperti abbiano raggiunto un livello tale da automatizzare gran parte della 'kill chain', la sequenza di passaggi che porta a un effetto su un bersaglio: rubare informazioni, denaro o bitcoin, oppure spegnere sistemi. Nel modello tradizionale, spiega, la ricerca delle vulnerabilità e la scrittura degli exploit avvengono in anticipo, poi un essere umano li distribuisce contro uno o molti bersagli. Con l'IA, secondo Stamos, il processo si inverte: un sistema esamina i bersagli, trova i bug e scrive gli exploit in tempo reale.
Come esempio cita ARTEX, descritto come uno strumento cinese open source consultabile su GitHub anche in traduzione inglese, che se alimentato da modelli come un GLM-5.3 'obliterato' consentirebbe di violare un numero sorprendente di organizzazioni. L'attacco sarebbe partito da tre banche sudcoreane e avrebbe poi colpito circa altre 200 aziende. Stamos aggiunge di aver aiutato alcune società a correggere le vulnerabilità, precisando che Cognition non è una società di incident response. Il paragone storico è con gli anni Novanta: allora, racconta, un convegno DEFCON riuniva poche centinaia di persone e molti erano ricercatori benevoli, mentre oggi l'ecosistema è molto più ampio, con incentivi economici e attori fuori dalla portata delle forze dell'ordine.
Attori statali e 'età buia'
Alla domanda su chi sia dietro gli attacchi, Stamos risponde che si tratta di gruppi diversi: non solo attori privati, ma anche stati come Russia e Corea del Nord, che secondo la fonte sfruttano l'IA per individuare e sfruttare vulnerabilità. L'esperto sottolinea anche un aspetto tecnico ed economico: i modelli a pesi aperti possono essere eseguiti localmente, senza i controlli e i log disponibili per le forze dell'ordine sui modelli di frontiera; cita come esempio l'uso su un proprio computer di un GLM-5.3 quantizzato e 'obliterato'.
Stamos non si definisce un catastrofista nel lungo periodo, ma ritiene che si sia entrati in un''età buia' di adattamento alle nuove capacità. L'intervista, prima puntata di una serie speciale sull'IA nella vita reale, tocca anche la gestione di disinformazione e contenuti di bassa qualità generati dall'IA sui social network, senza fornire indicazioni operative. Resta quindi da verificare l'entità e l'attribuzione degli incidenti citati, il numero effettivo di aziende coinvolte nella catena Fireworks-Cursor, la portata dell'hack di Binance e l'efficacia degli strumenti di difesa menzionati: elementi che la fonte riporta come dichiarazioni dell'intervistato, non come dati verificati in modo indipendente.
