Un costo fuori dall'inquadratura
Quando si parla del costo dell'intelligenza artificiale, l'immagine ricorrente è quella delle GPU, dei rack di acceleratori e delle liste di attesa per il silicio. Secondo un approfondimento pubblicato da MIT Technology Review e prodotto da WD, questa rappresentazione trascura lo storage: buona parte dei dati di backend generati ogni giorno da prompt, immagini e video deve essere conservata, e la spesa per farlo è tra le più difficili da pianificare.
Il punto di partenza è la differenza tra addestramento e inferenza. L'addestramento è finito: comincia, consuma calcolo e si chiude, quindi può essere trattato come un progetto con un budget definito. L'inferenza invece non si ritira: ogni richiesta lascia dietro di sé materiale da archiviare, e il volume cresce man mano che l'uso dei modelli si diffonde.
Il divario tra ciò che l'utente vede e ciò che resta
L'esempio più concreto riguarda il video generato dall'IA. Da misurazioni interne, WD riferisce che una clip di 8 secondi, consegnata all'utente come file 720p da 3,97 MB, lascia sul backend oltre 500 MB di dati associati: log, contesto in cache, rendering intermedi, backup e registri di sicurezza. Si tratta di un aumento di circa 130 volte rispetto al file visibile. Per un'impresa che produce video più lunghi e in risoluzione superiore, l'impronta di backend può arrivare a centinaia di gigabyte per clip.
Il fenomeno si inserisce in una crescita più ampia. McKinsey prevede che la domanda di inferenza aumenti con un tasso annuo composto del 35% fino al 2030, contro il 22% dell'addestramento, superando il 40% della domanda totale dei data center entro la fine del decennio. Un white paper globale di IDC sponsorizzato da WD, basato su un sondaggio su 763 decisori IT e aziendali, riporta che quasi il 95% degli intervistati ha registrato un aumento dei volumi di dati dovuto all'IA generativa negli ultimi 12 mesi, e circa il 61% una crescita del 25% o più.
La risorsa che non scende quando cala il calcolo
La domanda di calcolo oscilla con i cicli di addestramento, i lanci di prodotto e gli aggiornamenti hardware, ma il volume dei dati conservati non diminuisce allo stesso modo: log, output sintetici e risultati di inferenza continuano ad accumularsi e vengono trattenuti più a lungo. Questo cambia il ruolo dell'archivio, perché informazioni un tempo destinate a restare inattive possono diventare input per nuovi carichi di lavoro, inclusa la generazione aumentata dal recupero.
La conseguenza economica è che lo storage può superare la voce di budget più osservata. Un responsabile di prodotto di un fornitore cloud citato nel rapporto sintetizza la questione: più storage serve a tenere occupate le GPU, perché ore di inattività in attesa dei dati diventano rapidamente costose. Il limite dell'analisi è che le cifre citate provengono in parte da misurazioni interne di WD e da un sondaggio sponsorizzato dall'azienda, quindi riflettono la prospettiva di un fornitore di storage. Resta da verificare quanto questi rapporti si traducano in costi effettivi per le singole organizzazioni.