Guardian Agents: un supervisore per gli agenti aziendali
Microsoft ha presentato Guardian Agents, una funzione pensata per osservare il comportamento degli agenti AI impiegati dalle imprese. La novità si inserisce in Project Perception, un’iniziativa annunciata a giugno per simulare e difendere reti aziendali da attacchi. Il progetto era organizzato in agenti “red team” che simulano gli aggressori, “blue team” che rilevano i punti deboli e “green team” che provano a correggerli.
La nuova impostazione estende il problema: l’agente AI non è solo uno strumento che difende l’azienda da attacchi esterni, ma può diventare esso stesso un soggetto con accessi e capacità operative da controllare. Microsoft ha inoltre annunciato funzioni in Defender per individuare strumenti agentici installati dai dipendenti e limitare l’accesso a dati e sistemi. L’azienda afferma di poter riconoscere fino a 60 tipi di agenti e di applicare permessi dinamici, con approvazione umana quando il comportamento appare rischioso.
Perché un modello non dovrebbe autorizzare sé stesso
Un agente può leggere documenti, chiamare API, modificare file o compiere operazioni per conto di una persona. Se il modello interpreta male l’obiettivo, segue istruzioni malevole contenute in un documento o agisce su informazioni incomplete, le conseguenze possono superare una risposta errata in chat. Microsoft sostiene che i modelli avanzati sono imprevedibili e non conoscono automaticamente le norme interne di un’organizzazione.
La proposta di separare l’intelligenza dall’autorità è un principio architetturale concreto: il modello può suggerire o richiedere un’azione, mentre un livello indipendente verifica identità, permessi, contesto e soglie prima di autorizzarla. I registri devono poi permettere di ricostruire quali strumenti sono stati usati e perché. Questo approccio non elimina gli errori, ma può limitarne l’impatto e facilitare l’indagine.
Il fornitore ha anche un interesse commerciale
Microsoft vende cloud e prodotti di sicurezza e sviluppa propri modelli; ha inoltre rapporti stretti con OpenAI e Anthropic. La società è quindi sia un soggetto che descrive un rischio sia un fornitore di strumenti per affrontarlo. TechCrunch mette in evidenza questo doppio ruolo. Il conflitto d’interesse non rende automaticamente infondate le preoccupazioni, ma rende importante valutare le funzioni con prove indipendenti e confrontarle con alternative.
La protezione dipenderà anche da come l’organizzazione configura i controlli. Un sistema di monitoraggio non può compensare permessi eccessivi, credenziali condivise o assenza di procedure di revoca. Servono inventario degli agenti, autorizzazioni minime, supervisione delle azioni irreversibili e test con scenari realistici.
Guardian Agents è un annuncio, non la dimostrazione che ogni agente possa essere reso sicuro. La domanda per le aziende è pratica: chi controlla un agente che ha accesso ai sistemi e chi può fermarlo quando agisce fuori dal compito assegnato?