La tesi di Jassy: costo dell'inferenza troppo alto
Secondo quanto riportato da IT之家, il CEO di Amazon Andy Jassy ritiene che, perché l'intelligenza artificiale si diffonda nei software aziendali, il costo dell'inferenza debba scendere a circa un decimo del livello attuale. La dichiarazione è contenuta in un'intervista pubblicata il 23 ottobre dalla società di venture capital a16z. Jassy ha spiegato che, a suo giudizio, per un'adozione il più ampia possibile i costi di inferenza restano superiori di un ordine di grandezza rispetto a quanto servirebbe.
Jassy colloca la questione soprattutto nell'ambito delle applicazioni che richiedono risposte e attività ripetute: ogni risposta o compito completato da un modello consuma capacità di calcolo. Se i benefici dell'introduzione dell'AI non compensano l'aumento dei costi operativi, le imprese, secondo il CEO, hanno pochi incentivi a rifare i propri software esistenti. È questa la ragione principale, secondo la ricostruzione della fonte, per cui l'adozione resta limitata.
Domanda in eccesso e la scommessa sui chip proprietari
Sul fronte della capacità, Amazon prevede quest'anno investimenti per 220 miliardi di dollari senza riuscire, stando a quanto dichiarato da Jassy, a costruire infrastrutture sufficienti a soddisfare la domanda di AI. La società avrebbe già esaurito la maggior parte delle disponibilità di calcolo per il 2026, con gran parte del 2027 prenotata dai clienti e una quota rilevante del 2028 venduta. Jassy ha affermato che, con una domanda così forte, ulteriori ingenti investimenti non sarebbero uno spreco.
Jassy descrive la domanda come un "manubrio": da un lato i laboratori di AI, che assorbono capacità senza precedenti; dall'altro le imprese, che usano l'AI soprattutto per compiti specifici come il servizio clienti e il rilevamento delle frodi. Il segmento ancora poco sviluppato sarebbe quello intermedio, cioè i software usati quotidianamente dalle aziende, che a suo avviso potrebbero rappresentare in futuro la principale fonte di domanda di AI.
La risposta tecnologica di Amazon è il chip proprietario Trainium, presentato come alternativa più economica ai processori dominanti sul mercato. Jassy non ha citato esplicitamente i concorrenti, limitandosi a definire il fornitore dominante un partner importante. La fonte riporta che il rapporto qualità-prezzo di Trainium supera del 30-40% quello di processori comparabili e che la società ha già ottenuto impegni di ricavi futuri per oltre 225 miliardi di dollari legati a Trainium, compresi accordi con Anthropic e OpenAI. Il CEO ha accostato la situazione attuale a quella dei processori Graviton per i server cloud, sviluppati da Amazon dopo che i fornitori non soddisfacevano le sue richieste di prestazioni a parità di costo.
Cosa è confermato e cosa resta da verificare
Il materiale distingue tra dati e previsioni: gli investimenti da 220 miliardi di dollari e gli impegni di ricavi su Trainium sono presentati come informazioni aziendali; la necessità di ridurre i costi di inferenza di dieci volte e la lettura della domanda come "manubrio" sono valutazioni personali di Jassy. Non viene specificato come si misuri tale riduzione né su quale orizzonte temporale debba avvenire, né quale quota del risparmio dipenda effettivamente dai chip proprietari. Resta da verificare, quindi, se Trainium produrrà i risparmi indicati e se il segmento intermedio dei software aziendali si espanderà come previsto.