Che cos'è Dessa e come è stato addestrato
Block, l'azienda guidata da Jack Dorsey, ha presentato un modello di intelligenza artificiale chiamato Dessa, addestrato «da zero su nient'altro che conversazione umana». La notizia è riportata da The Verge, che cita il sito e i materiali diffusi dal team del progetto. Secondo la descrizione fornita da Block, Dessa è un modello «vero speech-to-speech», cioè progettato per passare direttamente dal parlato al parlato, e tutto ciò che sa deriva dal parlato umano. Il modello, stando a quanto indicato, può essere eseguito in locale su un MacBook Pro M4 Max «o superiore».
Il team del progetto ha indicato tre ragioni alla base del lavoro: la curiosità, cioè il divertimento di provarci; una migliore comprensione tra esseri umani e intelligenza artificiale; e la sicurezza. Nel materiale diffuso si parla dell'idea di verificare se un modello possa imparare a parlare senza mai vedere una parola scritta, come avviene per un bambino, aggiungendo che la cosa è possibile ma «molto difficile».
Le dimostrazioni e i limiti emersi
Per mostrare il funzionamento del modello, Block ha condiviso alcune conversazioni con esseri umani, definite a tratti imbarazzanti o inquietanti. In un esempio condiviso da Ragavan Thurairatnam, responsabile di Dessa, il modello scambia inizialmente l'interlocutore per una persona di nome «Ronaldo», pur mantenendo in seguito un botta e risposta in prevalenza naturale. Un video mostra Dessa impegnato in un gioco di indovinelli a voce.
Il sito del progetto raccoglie altri esempi: una conversazione sui film di Christopher Nolan, con una divagazione sui film di Superman diretti da Bryan Singer; una persona che racconta a Dessa di averla portata a sorpresa a Parigi, alla quale il modello risponde, secondo la descrizione del sito, con quella che sembra una gratitudine commossa; e un dialogo tra Dessa e il modello vocale GPT-Live-1 di OpenAI, nel quale Dessa appare più naturale. Alcuni estratti di queste conversazioni sono disponibili in un video.
Gli esempi servono a illustrare le potenzialità del modello, ma mostrano anche che il comportamento non è ancora del tutto lineare: l'errore sul nome e le divagazioni sono descritti negli stessi materiali diffusi da Block e vanno letti come dimostrazioni selezionate, non come una valutazione sistematica delle prestazioni. Il materiale non indica metriche, dimensioni del modello o risultati di test comparativi.
Le ragioni del progetto e i prossimi passi
La motivazione legata alla sicurezza riguarda, secondo il team, la difficoltà degli attuali sistemi vocali di tenere conto dell'emozione nella voce. Nel materiale si porta l'esempio di una persona che prova un dolore serio mentre un sistema vocale non se ne accorge e continua a parlare: è questo, secondo il team, il problema di sicurezza che Dessa vorrebbe contribuire a risolvere. Si sostiene inoltre che il parlato sia l'interfaccia più naturale per qualsiasi intelligenza e che l'AI vocale attuale lo sprechi, appiattendo il parlato in testo e non riuscendo a stare al passo con i tempi della conversazione umana.
Block ha annunciato che darà accesso anticipato al modello a «un piccolo gruppo di ricercatori di sicurezza AI». Non sono indicati tempi, criteri di selezione né modalità di accesso. Resta quindi da verificare come il modello si comporti al di fuori delle dimostrazioni pubblicate, quali siano le sue prestazioni su emozioni e sicurezza e in che modo l'accesso ai ricercatori verrà gestito.
La questione della comparazione con i modelli vocali esistenti
L'unico confronto presente nel materiale riguarda il dialogo tra Dessa e GPT-Live-1 di OpenAI, nel quale Dessa viene descritto come più naturale. Si tratta però di un esempio scelto e pubblicato da Block, non di un test indipendente: il confronto va quindi attribuito all'azienda e non trattato come una valutazione terza delle capacità dei due modelli.
Il punto rilevante, alla luce dei fatti disponibili, è che Dessa si propone come un approccio diverso: un modello addestrato solo sul parlato e pensato per funzionare in locale, invece di convertire la voce in testo. Se l'accesso ai ricercatori di sicurezza produrrà valutazioni pubbliche, sarà possibile capire se questa impostazione si traduce in vantaggi misurabili. Per ora, l'annuncio di Block rende noto un prototipo presentato attraverso esempi curati e dichiarazioni del team, mentre le prove indipendenti restano da fare.