Un'autonomia che avanza senza un titolare
Secondo il State of AI Agent Security Report 2026 di Gravitee, citato da Agenda Digitale, nel 2026 l'83% delle aziende ha iniziato a lavorare con agenti AI autonomi, sistemi che non si limitano a rispondere a un prompt ma pianificano, si coordinano ed eseguono azioni concatenate su più sistemi aziendali. A fronte di questa diffusione, solo il 7,2% delle organizzazioni ha individuato una persona con responsabilità formale sul comportamento dei propri agenti. Oltre sei organizzazioni su dieci descrivono quella responsabilità come poco chiara o condivisa senza un vero titolare.
Il rischio indicato dalla fonte non riguarda una presunta ribellione dei sistemi, ma la difficoltà di ricostruire con certezza cosa un agente ha fatto, quando lo ha fatto e su quali dati si è basato. È un problema di attribuzione prima ancora che di tecnologia.
Back office sotto pressione e costi degli incidenti
Dall'osservazione delle esigenze di integrazione delle imprese emerge che l'80% degli agenti AI integrati è destinato a processi interni di back office, mentre solo il 20% riguarda il contatto con clienti esterni. Le aree in cui le aziende chiedono maggiore autonomia sono l'azzeramento del data entry manuale e la lettura automatizzata dei documenti (28%), l'analisi dei dati e l'interrogazione di archivi e procedure interne (28%) e la redazione automatica di bozze documentali o contratti (24%).
Questa marcata autonomia interna rende più difficile isolare il singolo passaggio che genera un problema. La fonte riporta che il 47% dei CISO europei considera gli agenti autonomi la principale minaccia alla sicurezza aziendale, davanti a ransomware e phishing, con perdite medie stimate in 4,2 milioni di euro per incidente nelle aziende prive di governance specifica. Tali costi includono interruzioni operative, sanzioni per non conformità, spese legali, consulenze forensi e impatto reputazionale.
Log, supervisione e obblighi dell'AI Act
Senza un log continuo del ragionamento dell'agente, ricostruire un incidente richiede di procedere a ritroso su output e richieste di sistema, spesso con strumenti di cui ci si può fidare solo in parte. La fonte individua tre condizioni indispensabili per chi affida compiti operativi agli agenti, valide a prescindere da settore e dimensione: la registrazione dei passaggi, la provenienza dei dati e la possibilità di ricostruzioni rapide.
L'AI Act va nella stessa direzione: per i sistemi ad alto rischio prevede la registrazione automatica degli eventi per tutto il ciclo di vita (art. 12), la supervisione umana (art. 14) e l'obbligo per chi li usa di conservare i log (art. 26). La fonte sottolinea che la tracciabilità non è un vincolo alla velocità degli agenti, ma la condizione per usufruire della loro autonomia con fiducia.
Restano da verificare i dettagli metodologici del report Gravitee, non descritti nel materiale, e la loro rappresentatività rispetto al tessuto delle imprese italiane.
