Che cosa cambia nelle nuove difese
OpenAI ha annunciato di aver rafforzato in modo netto le protezioni contro i tentativi di estrarre il ragionamento interno dei suoi modelli GPT-6.2 Astra e GPT-6.2 Sol. Secondo quanto riportato da The Decoder, nei test interni automatizzati il tasso di successo degli attacchi che recuperavano ragionamenti protetti da richieste precedenti è sceso dal 54,0 per cento su GPT-6 Astra allo 0,2 per cento su GPT-6.2 Astra. Per gli attacchi condotti su richieste attive, la riduzione indicata è dal 22,9 per cento allo 0,9 per cento. OpenAI ha inoltre precisato, secondo la fonte, che alcune delle migliorie selezionate verranno estese anche a GPT-6 Astra.
Due livelli di difesa e il contrasto alle campagne coordinate
Le contromisure descritte operano su due piani distinti. Sul piano della singola richiesta, i sistemi combinano addestramento mirato, filtri sugli input e sugli output per messaggi e chiamate agli strumenti, e blocchi sulle API che impediscono ai modelli più vecchi di leggere il ragionamento protetto. Sul piano delle campagne coordinate, OpenAI dichiara di sospendere ogni settimana un numero compreso tra migliaia e decine di migliaia di account.
La rilevanza di queste misure riguarda il fatto che il ragionamento interno di un modello può essere un asset competitivo e, potenzialmente, un veicolo per ricostruire capacità non rese pubbliche. I numeri citati provengono però dai test interni della stessa azienda: sono quindi dichiarazioni di parte, non verifiche indipendenti, e vanno letti come tali.
Un fronte condiviso con Anthropic e i punti ancora aperti
Il fenomeno non riguarda solo OpenAI. Stando a The Decoder, anche Anthropic sta contrastando attacchi sistematici di distillazione, con la sospensione di decine di migliaia di account per limitare il furto del ragionamento interno, e avrebbe riferito una riuscita in una percentuale compresa tra il 90 e il 99 per cento dei casi. Anthropic avrebbe anche chiesto una risposta coordinata da parte dell'industria e dei responsabili politici.
Il confronto tra le due aziende mostra un approccio per certi versi simile, basato su sospensioni massicce di account, ma il materiale non consente di paragonare direttamente metriche e metodologie: OpenAI pubblica tassi di successo degli attacchi in test adattivi di red-teaming, mentre per Anthropic la fonte parla di una percentuale di casi in cui il contrasto avrebbe avuto successo, senza dettagliare la base di calcolo.
Restano quindi da verificare diversi aspetti: l'effettiva robustezza delle difese contro attaccanti esterni e non solo nei test dell'azienda, i criteri con cui vengono individuati e sospesi gli account, il rischio di sospensioni errate e l'esito delle richieste di coordinamento tra settori e istituzioni. Su questi punti il materiale disponibile non offre elementi ulteriori.
