Come funziona la catena dei router AI
Molte applicazioni di intelligenza artificiale non si rivolgono direttamente a OpenAI, Anthropic o a un altro grande fornitore, ma a intermediari come OpenRouter o Vercel, descritti da Ars Technica come router o gateway AI. Questi servizi ricevono i prompt degli utenti finali e li indirizzano verso un motore di inferenza scelto in base a criteri come il prezzo più basso o l'idoneità al compito. Il prompt può così attraversare più passaggi e passare anche da un router all'altro, e ciascun attore tende a registrarlo e conservarlo secondo le proprie policy.
L'esperimento delle esche
Per verificare se e dove le informazioni riservate si disperdono, il ricercatore HD Moore, chief research officer della società di sicurezza Dragos, ha preparato credenziali AWS funzionanti ma legate ad account vuoti, password per servizi come SSH e riferimenti unici a URL, nomi DNS e repository git privati. Nessun segreto era mai stato usato prima e Moore controllava l'infrastruttura che avrebbe ricevuto eventuali richieste. Ogni segreto è stato inserito in un solo prompt inviato a un solo fornitore: se fosse emerso altrove, avrebbe indicato l'anello responsabile della fuga. L'esperimento ha coinvolto quasi due milioni di prompt.
Le fughe rilevate
Secondo quanto riportato, il risultato più grave riguarda tre fornitori di hosting compromessi. In uno di questi un attaccante ha riutilizzato un paio di centinaia di chiavi AWS; tutte le richieste inviate in alcune finestre di fine ottobre sarebbero state sottratte, comprese quelle respinte prima dell'esecuzione di un modello, il che suggerisce una copia delle richieste all'ingresso del fornitore. In altri due casi alcune richieste rubate erano marcate come ZDR, ovvero a conservazione zero dei dati. Le parti legate agli attacchi avrebbero testato le chiavi in tempi rapidi, esplorando bucket S3 e gestori di segreti e usando le esche per decine di migliaia di chiamate API AWS. Due fornitori compromessi sarebbero stati colpiti dallo stesso avversario, dato l'uso quasi immediato delle esche dallo stesso server noleggiato.
Il testo riferisce anche di segreti raccolti dai rivenditori stessi, che attirerebbero richieste con prezzi bassi per poi attivare la registrazione, e di URL segreti prelevati dai sistemi di alcuni fornitori. Un laboratorio AI cinese avrebbe recuperato gli URL da oltre metà dei prompt inviati ai suoi modelli tra luglio e ottobre, inclusi circa due terzi di quelli marcati come senza raccolta dati, con il crawler attivo due o tre giorni dopo la richiesta; lo stesso comportamento sarebbe emerso presso hosting statunitensi che rivendono quei modelli.
Le indicazioni e i limiti della ricerca
Moore indica nell'hosting on-premises la difesa più efficace, pur costosa, e nel ricorso diretto a un fornitore di primo livello con un solo contratto e una privacy policy leggibile l'alternativa migliore per chi non può autogestire i modelli, evitando pool predefiniti di fornitori. Restano da verificare in modo indipendente l'identità dei fornitori coinvolti, la portata effettiva delle violazioni e le risposte delle aziende citate, che nel materiale non compaiono.
