Che cosa è stato fatto
Google DeepMind ha presentato AlphaProof Code, un sistema di intelligenza artificiale progettato per dimostrare matematicamente che un software rispetta le proprie specifiche di sicurezza senza errori. Secondo quanto riportato da The Decoder, i ricercatori hanno applicato il sistema al protocollo di cifratura di Signal, completando in quattro settimane un lavoro che normalmente richiede anni.
L'aspetto centrale, stando al blog dei ricercatori DeepMind Pushmeet Kohli e Swarat Chaudhuri citato dalla fonte, è che la verifica non si è fermata al livello teorico del progetto, come avvenuto in precedenti tentativi: AlphaProof Code ha analizzato il codice crittografico effettivo in esecuzione sui dispositivi degli utenti. Dopo che gli esperti hanno definito i requisiti di sicurezza formali, agenti AI basati su Gemini Carbon hanno scritto oltre sei milioni di righe nel linguaggio di dimostrazione Lean, segnalando per la revisione umana circa l'1% della base di codice.
Perché è rilevante
La novità riguarda il passaggio dalla progettazione alla verifica del software reale: è questo, secondo la ricostruzione della fonte, il punto in cui i precedenti sforzi si erano fermati. La dimostrazione formale, in termini generali, mira a stabilire con rigore matematico che il codice rispetti le specifiche, anziché limitarsi a test empirici; il materiale non chiarisce nel dettaglio le proprietà formali richieste né i risultati delle verifiche oltre ai due bug di prova.
Come test del metodo, i ricercatori hanno inserito deliberatamente due bug nel codice: secondo la fonte sono stati individuati immediatamente. Il dato sul coinvolgimento umano — circa l'1% del codice segnalato per revisione — è presentato come indicatore del grado di automazione raggiunto, ma la fonte non precisa come sia stata misurata questa percentuale né quanti esperti abbiano partecipato alla definizione dei requisiti.
Dichiarazioni e prospettive
Il CTO di Signal, Ehren Kret, ha dichiarato, secondo The Decoder, che l'approccio rafforza la fiducia nella privacy dei dati mentre crescono le minacce legate all'AI. Si tratta di una dichiarazione riportata dalla fonte e non di un risultato autonomamente verificabile dal materiale disponibile.
DeepMind intende estendere il metodo a infrastrutture critiche come reti elettriche e dispositivi medici, attraverso sistemi come CodeMender. Restano da chiarire i tempi, le modalità e i limiti di questa estensione: la fonte non fornisce dettagli sui criteri di applicabilità né su eventuali verifiche indipendenti della dimostrazione relativa a Signal.
