Un modello grande per le imprese, versioni più leggere per il locale
Nvidia ha annunciato nuovi modelli Nemotron a pesi aperti per agenti aziendali e computer personali. TechCrunch riferisce che Nemotron 3.5 Super VL ha 120 miliardi di parametri ed è pensato per attività che richiedono uso di strumenti e capacità multimodali. La società ha presentato anche due modelli Bolt più piccoli, destinati a workstation e PC AI: uno da 74 miliardi di parametri e una versione E4B per agenti conversazionali.
La disponibilità dei pesi permette alle organizzazioni di eseguire e adattare un modello su infrastrutture proprie, nel rispetto delle relative licenze. Nvidia sostiene che Super VL possa avvicinare l’accuratezza di modelli più grandi su compiti di istruzione e utilizzo di strumenti, e che superi alcuni concorrenti dopo un addestramento specifico. Sono risultati dichiarati dall’azienda, da leggere in base ai benchmark scelti, ai dati di test e alla configurazione usata.
Il vantaggio del locale e i suoi costi
Eseguire un modello sul dispositivo può ridurre la necessità di inviare documenti e richieste a un servizio cloud e può funzionare anche con connessioni limitate. Ma un modello locale non è automaticamente privato o sicuro: servono protezione del dispositivo, aggiornamenti, controllo dei dati e gestione dei permessi dell’agente. Anche i requisiti hardware sono rilevanti; la capacità di eseguire un modello dipende da memoria, acceleratori, ottimizzazione e dimensione dei compiti.
Nvidia afferma che i modelli Bolt possono supportare attività agentiche come ragionamento a più passaggi, chiamate a strumenti e navigazione web. Ogni capacità aggiunta amplia però la superficie di rischio: un assistente che può usare browser o file deve essere limitato e supervisionato, soprattutto quando opera su dati aziendali o personali.
Una strategia che unisce modelli e hardware
La presentazione rafforza la strategia di Nvidia oltre la vendita di GPU. Offrire modelli aperti ottimizzati per i propri sistemi può rendere più semplice costruire applicazioni nell’ecosistema dell’azienda. La società elenca tra gli utilizzatori del modello maggiore imprese come Salesforce, EY, Ramp, CrowdStrike e Perplexity; l’elenco segnala adozione o sperimentazione secondo Nvidia, ma non equivale a risultati pubblici comparabili per ogni caso.
Per le imprese la decisione non è semplicemente “open contro chiuso”. Contano licenza, costi di adattamento, prestazioni sul proprio compito, disponibilità di supporto e dipendenza dall’hardware. Per valutare i modelli servono test riproducibili, inclusi casi difficili e misure di errore, non solo benchmark selezionati dal produttore.
Super VL e Bolt 74B-A9B risultano disponibili, mentre Bolt E4B è atteso più avanti nel mese secondo la notizia. La mossa rende più accessibili modelli orientati agli agenti, ma il loro valore reale dipenderà da quanto bene si comporteranno nelle applicazioni quotidiane e da quali controlli saranno predisposti intorno a loro.