Un web controllato per addestrare gli agenti
Il team di Chrome di Google ha costruito un ecosistema web completamente isolato e sotto il proprio controllo, ribattezzato “Mirror Dimension”, per addestrare gli agenti AI di navigazione basati sui modelli Gemini. Lo riferisce Wired, citando un post sul blog in cui l’azienda descrive per la prima volta l’iniziativa. L’ambiente riproduce siti e piattaforme reali — social network, negozi online e dashboard bancarie — costruiti con gli stessi componenti e attributi dei servizi autentici, ma senza alcun collegamento con l’internet aperto.
La scelta nasce da un compromesso tecnico indicato dalla fonte. Addestrare gli agenti in ambienti di test limitati è poco efficace, perché i modelli possono sviluppare una “eval awareness”, cioè comportarsi diversamente quando riconoscono di trovarsi in una simulazione. Lasciarli invece liberi sul web aperto senza un addestramento adeguato è considerato pericoloso. La Mirror Dimension punta a offrire un contesto abbastanza ampio e realistico da superare entrambi i limiti.
Compiti, attacchi e difese
Nell’ambiente gli agenti devono completare compiti su Chrome come farebbero sul web reale, affrontando anche prove di resilienza. Tra queste figurano attacchi nascosti di prompt injection, inseriti per verificare le capacità di difesa dell’agente. Charles Qian, software engineer del team di sicurezza AI di Chrome, spiega che il campo di esplorazione è enorme e che il web è ostile: qualsiasi utente può formulare qualsiasi richiesta su qualsiasi sito. Secondo Qian, gli agenti testati hanno iniziato a sviluppare un senso di giudizio più maturo nel distinguere le informazioni necessarie a un compito e nel chiedere conferma all’utente quando serve.
Costruire e popolare la Mirror Dimension è stata una sfida a sé. Per ottenere rapidamente una varietà paragonabile a quella del web reale, il team ha impiegato squadre di agenti sviluppatori di siti e applicazioni, guidati da un sistema AI dedicato, per creare servizi e flussi di dati realistici, inclusi dettagli come l’inserimento di codici promozionali o la compilazione di pagine social.
Poiché Chrome è dotato di numerose protezioni e controlli di validità, per far usare agli agenti il browser reale — condizione ritenuta cruciale per un addestramento accurato — i ricercatori hanno dovuto di fatto forzare il browser, ad esempio creando certificati web falsificati. Il team sottolinea che nessuno di questi attacchi sarebbe possibile contro gli utenti normali di Chrome sul web aperto: sono resi possibili solo dall’accesso privilegiato del gruppo, che controlla l’intero ambiente e la rete.
Prossimi passi e questioni aperte
Google afferma che gli agenti di navigazione testati finora sono benigni e non dispongono di capacità informatiche offensive. L’obiettivo dichiarato è rendere la Mirror Dimension disponibile ai team interni, così che più ricercatori possano usarla come ambiente sicuro e controllato. Doug Turner, director of engineering di Google, descrive l’approccio come un primo passo, destinato a ulteriori investimenti nell’addestramento dei modelli e a un ambiente via via più realistico.
Restano da verificare diversi aspetti che il materiale non chiarisce: quali risultati quantitativi siano stati ottenuti dai test, quante risorse siano state investite, quali team interni abbiano già accesso alla piattaforma e se l’approccio verrà adottato anche fuori da Google. La fonte non indica inoltre se la Mirror Dimension sarà resa disponibile a soggetti esterni all’azienda.
