Il nuovo ingresso nel mercato dei token
LG Uplus ha annunciato che dal prossimo anno entrerà nel business dei token di intelligenza artificiale, secondo quanto riportato da ETNews. La società descrive l'iniziativa come un modo per ridurre il carico dell'AI transformation (AX) sui clienti aziendali, sfruttando tecnologie di ottimizzazione dei token sviluppate internamente. La notizia, diffusa il 15 novembre, colloca il gruppo coreano in un segmento in cui sono già attivi altri operatori delle telecomunicazioni.
Secondo il materiale, la strategia si concentra sul costo totale di completamento di un'attività (TCO) e non solo sul prezzo unitario del token. Il CTO Lee Sang-yeop ha affermato che la leadership nel mercato AI non dipende più da chi costruisce modelli più grandi, ma da quanto accuratamente ed economicamente un fornitore riesce a conseguire i risultati aziendali richiesti dal cliente. Ha inoltre indicato che il costo totale necessario a portare a termine un'attività, più del prezzo del token, diventerà il fossato tecnologico del settore.
Le componenti tecniche dichiarate
LG Uplus indica tre elementi principali: il cosiddetto harness engineering, che progetta i percorsi di lavoro degli agenti AI; un routing intelligente che assegna i modelli in base al tipo di domanda; e un chip mix che combina diversi tipi di semiconduttori per ottimizzare l'inferenza. L'idea è evitare che gli agenti ripetano ricerche o verifiche non necessarie e collegare a ogni attività il modello più adatto, riducendo così il consumo di token.
Il materiale riporta casi di proof of concept in cui il costo per l'elaborazione di domande generiche è stato ridotto del 25% e quello per gli agenti di coding di oltre il 30%. La società afferma inoltre di aver verificato un taglio del 90% dei costi operativi dei modelli AI nell'area del coding, dove il consumo di token è elevato. Vengono citati anche un modello on-device ridotto a circa un terzo delle dimensioni con oltre il 95% delle prestazioni rispetto ai modelli cloud generali, una velocità di generazione dei token più che doppia grazie a un modello piccolo che genera e uno grande che verifica, e un'efficienza di elaborazione circa quadrupla a parità di infrastruttura.
Infrastruttura e scenario competitivo
Sul fronte hardware, la società dichiara una strategia di chip mix che affianca le GPU di Nvidia e AMD alla NPU nazionale di FuriosaAI. Le diverse unità vengono impiegate separatamente per la fase di analisi delle domande (prefill) e per quella di generazione delle risposte (decode), distribuendo i carichi ad alta intensità di calcolo e quelli sensibili alla larghezza di banda di memoria per abbassare i costi infrastrutturali. LG Uplus prevede di combinare partnership con fornitori e costruzione diretta per attaccare il mercato B2B dei token dal prossimo anno.
Con questo ingresso, tutti e tre i principali operatori di telecomunicazioni coreani risultano impegnati nell'economia dei token: KT aveva già lanciato la piattaforma aziendale Token Factory per il collegamento automatico dei modelli e la gestione della fatturazione, mentre SK Telecom ha indicato il Token Gateway tra le nuove attività. Restano da verificare i tempi effettivi di lancio, i prezzi, la disponibilità commerciale dei servizi e l'effettiva replicabilità dei risparmi dichiarati nei PoC su larga scala.
