La tesi: dai pesi al registro verificabile
L'ex ricercatore Deepmind Thore Graepel ha fondato la startup Metis Reasoning con l'obiettivo di costruire sistemi di intelligenza artificiale in grado di tracciare ciò che sanno e di verificare ogni conclusione contro l'evidenza disponibile. Secondo quanto riporta The Decoder, Graepel ha illustrato l'approccio alla conferenza GTC di Nvidia a Berlino. La sua convinzione è che lo stesso principio che nel 2016 permise ad AlphaGo di battere il professionista di Go Lee Sedol possa rendere più affidabili i sistemi di IA, robot compresi.
Metis sostiene che i modelli linguistici attuali equivalgono soltanto alla rete di previsione di AlphaGo, quella che proponeva le mosse possibili. AlphaGo la affiancava a una ricerca sistematica delle sequenze di gioco, trovando la celebre Mossa 37, che la rete avrebbe valutato con una probabilità di circa una su diecimila per un giocatore umano. L'idea di Metis è estendere quel tipo di ricerca al ragionamento generale.
Come funzionerebbe il sistema
Il meccanismo ruota attorno a un registro delle conoscenze esplicito, paragonato dall'azienda al tabellone di gioco. Il registro annota ciò che è noto, il grado di confidenza del sistema e le domande ancora aperte. Un modulo separato verifica le nuove voci rispetto a calcoli, dimostrazioni formali o evidenze empiriche; se un'assunzione viene meno, tutte le conclusioni che ne dipendevano vengono rivalutate. Una "mossa" può consistere in una domanda, in un esperimento o nella contestazione di un presupposto, e il sistema sceglie quella che riduce di più l'incertezza sulla domanda iniziale, arrivando a una risposta oppure a un'astensione motivata.
Come in AlphaGo, due reti neurali propongono e valutano le mosse: sono addestrate su indagini precedenti registrate, ma secondo Metis non possono violare le regole di verifica. L'azienda afferma che l'impostazione dovrebbe ridurre le allucinazioni, produrre spiegazioni con citazioni delle fonti e consentire di modificare o cancellare conoscenze senza riaddestrare il modello. Poiché il ragionamento si scompone in passi piccoli, l'approccio potrebbe favorire modelli più leggeri su dispositivi edge e robot.
Il quadro teorico si basa su una critica ai modelli attuali: più dati e più potenza di calcolo li migliorano, ma non risolvono problemi di fondo come la fabbricazione di risposte, la non verificabilità delle catene di ragionamento e la conoscenza bloccata nei pesi. Nella tesi di Metis le allucinazioni nascono dal processo di addestramento stesso, perché i modelli imparano a produrre testo plausibile più che vero, e le catene di pensiero dei modelli di ragionamento spesso non mostrano come si è arrivati a una risposta. Da qui l'argomento dell'azienda secondo cui l'IA ha avuto finora un impatto economico limitato: in ambiti come medicina, finanza, progettazione di chip e robotica servirebbe una verificabilità costitutiva.
Cosa manca e i riferimenti esistenti
Il white paper descrive però solo un programma di ricerca: non esiste un sistema funzionante, non ci sono benchmark né confronti con i modelli di ragionamento attuali. Il team ammette che il mondo reale, a differenza del Go, offre informazioni solo parziali, che ottenere evidenze può essere costoso e che alcune domande non hanno risposta. La questione più aperta riguarda come un registro verificato delle conoscenze potrebbe prendere forma in domini disordinati oltre gli esempi da manuale, considerando che i sistemi di IA simbolica fallirono proprio perché tutta la conoscenza doveva essere inserita a mano.
Metis non è comunque sola sul fronte delle idee: Microsoft con GraphRAG organizza la conoscenza fuori dai pesi del modello in un grafo, mentre AlphaGeometry2 di Google affianca a un modello linguistico un motore simbolico che verifica le dimostrazioni matematiche. Metis dichiara di voler estendere questi principi alle domande aperte del mondo reale.
Sul piano personale, The Decoder ricorda che Graepel ha conseguito il dottorato in machine learning a Berlino nel 2001, ha contribuito a TrueSkill in Microsoft Research, ha lavorato in Deepmind su AlphaGo, AlphaZero e MuZero ed è stato nel team post-AGI di Google Deepmind, lasciato in estate; ricopre inoltre la cattedra di machine learning allo University College London. Secondo Bloomberg, sta raccogliendo un round nell'ordine delle decine di milioni di dollari, con un follow-on di diverse centinaia di milioni a valutazione più alta già in preparazione. Il materiale non consente di verificare autonomamente questi dati finanziari né di valutare l'efficacia dell'approccio.
