Il metodo: esche tracciabili

Un esperimento condotto dal chief research officer di Dragos, HD Moore, e riportato dalla testata tecnologica Ars Technica, ha utilizzato quasi due milioni di richieste inviate a diversi fornitori di servizi di intelligenza artificiale. All'interno delle richieste erano state inserite credenziali di test tracciabili, create appositamente e non prelevate da utenti reali. L'obiettivo era verificare se e da quale punto della catena di servizi quei dati sarebbero poi riemersi, ad esempio in tentativi di accesso a sistemi cloud.

Secondo quanto riferito, almeno tre fornitori hanno mostrato segni di compromissione: le chiavi esca sarebbero state usate per decine di migliaia di chiamate alle interfacce dei servizi cloud, nel tentativo di reperire altre credenziali, attivare servizi e mantenere l'accesso. In alcuni casi l'uso è avvenuto entro poche ore dall'invio; in altri le credenziali sono state sottratte anche quando la richiesta era stata respinta prima ancora dell'esecuzione del modello.

La catena di intermediari e i limiti delle impostazioni

Un secondo fronte di rischio riguarda l'architettura con cui molte applicazioni AI distribuiscono le richieste: il contenuto può transitare attraverso più piattaforme e essere decifrato in passaggi intermedi. La ricerca ha rilevato che alcuni rivenditori registrano e trasmettono le richieste a terzi. Inoltre, indirizzi privati contenuti in richieste etichettate come a conservazione zero o con raccolta dati disattivata sarebbero stati recuperati a distanza di giorni, suggerendo che le dichiarazioni di privacy non sempre corrispondono al comportamento effettivo lungo tutta la filiera.

Moore indica due raccomandazioni: per le attività sensibili valutare il deployment locale; per chi non può gestire infrastrutture proprie, rivolgersi direttamente a fornitori considerati affidabili e indicare esplicitamente il fornitore a monte. Si tratta di indicazioni dell'autore dello studio, non di misure verificate da terzi.

Cosa è accertato e cosa resta da chiarire

Il quadro che emerge è quello di una filiera in cui la singola impostazione del servizio non basta a garantire la riservatezza, perché il dato può essere copiato o intercettato prima e dopo il modello. Va però distinto ciò che è documentato da ciò che non lo è: il materiale disponibile non identifica i tre fornitori coinvolti, non quantifica il numero esatto di credenziali compromesse e non chiarisce se i rivenditori abbiano violato obblighi contrattuali.

La ricerca non misura nemmeno l'impatto su utenti reali, poiché le esche erano artificiali. Restano quindi da verificare l'identità dei soggetti coinvolti, la portata effettiva delle fughe e l'efficacia delle raccomandazioni. Il dato più solido è metodologico: testare la catena con marcatori tracciabili permette di individuare punti di esposizione che le dichiarazioni di privacy, da sole, non rivelano.

Fonte e attribuzione: questa sintesi originale è stata redatta da AICronaca sulla base del resoconto di IT之家 ↗. Le dichiarazioni sono attribuite alla fonte; eventuali limiti informativi: Il materiale non nomina i tre fornitori compromessi, non indica quanti rivenditori abbiano registrato o trasmesso le richieste e non specifica il numero esatto di credenziali usate. Le conclusioni provengono da un unico studio, riportato da Ars Technica e rilanciato da IT之家, e non risultano conferme indipendenti..