Configurazione e impieghi previsti
Nvidia ha pubblicato Nemotron 3.5 Bolt E4B 4GB, un piccolo modello linguistico open pensato per agenti conversazionali che girano in locale. Secondo la fonte, il modello è post-addestrato a partire da Gemma 4 E4B di Google usando esclusivamente reinforcement learning. La destinazione dichiarata sono assistenti vocali, personaggi non giocanti nei videogiochi e interfacce per robot, eseguiti su schede GeForce RTX, Jetson e Spark. L'etichetta 4GB indica un obiettivo di occupazione di memoria, non la dimensione del file: la build Q4_K_M pubblicata su Hugging Face pesa 6,18 GB.
Prestazioni dichiarate e limiti
Il modello conta 8 miliardi di parametri totali, 4 miliardi effettivi e una finestra di contesto da 64K token. Nvidia dichiara di aver rinunciato al supervised fine-tuning perché, secondo il rapporto di ricerca, migliorava il richiamo degli strumenti ma peggiorava la qualità conversazionale e la verbosità di Gemma. Al suo posto sono stati usati RLVR e RLHF tramite NeMo-RL e NeMo-Gym, con ogni campione addestrato sia in modalità ragionamento sia senza. Le penalità di lunghezza nell'ambiente GenRM hanno limitato la crescita delle risposte. Dataset e ricetta di addestramento sono pubblici. Per il deployment il checkpoint BF16 è stato quantizzato in Q4_K_M con calibrazione a matrice di importanza su circa un milione di token di rollout RL; è incluso anche un drafter DFlash per il decoding speculativo, che su una RTX 5070 ha raggiunto 272,6 token al secondo contro i 225,9 di Gemma 4 E4B con drafter MTP, un vantaggio di 1,21 volte dichiarato da Nvidia.
Il modello è distribuito su Hugging Face, Ollama, LM Studio, Unsloth e Jetson AI Lab, oltre che come NIM Nvidia e tramite In-Game Inferencing SDK. Nella demo citata, un robot Reachy Mini su Jetson Orin Nano 8GB usa Cosmos 3 Edge per la visione e Bolt per risposte vocali e chiamate a strumenti. Nvidia lo definisce il terzo modello compatto della famiglia per i personaggi di gioco ACE.
Il quadro dei benchmark
Nvidia ha raggruppato 21 benchmark in cinque aree di capacità e dichiara che Bolt guida 15 delle 21 righe in modalità ragionamento, con punteggi BF16 misurati internamente tramite NeMo-Gym. Il risultato migliore citato è IHEval a 84,8 contro 67,0 di Gemma 4 E4B e 60,6 di Qwen3.5-4B. L'azienda riferisce inoltre punteggi medi circa il 40% superiori a Nemotron 3 Nano 4B e fino all'80% in meno di token generati nei confronti con ragionamento attivo. Separatamente, Scale Labs avrebbe classificato Bolt primo tra i modelli piccoli su MultiChallenge con il 56,03%, secondo un post su X citato dalla fonte.
Il quadro non è uniforme: Qwen3.5-4B supera Bolt su Tau2-Bench (75,1 contro 55,1), RULER 64K (95,1 contro 87,0), LongBench v2 (59,9 contro 50,5) e BFCL-v3 (70,9 contro 68,5), mentre Gemma 4 E4B mantiene un margine stretto su EQ-Bench v3 (41,1 contro 39,4). Restano da verificare in modo indipendente sia i punteggi sia le misure di velocità, che la fonte attribuisce a test Nvidia su batch size 1 con 3K token di input e 50 di output.
