Negli ultimi anni la corsa verso modelli più grandi ha dominato l’attenzione tecnica, ma oggi il nodo economico cruciale è un altro: il costo per token ossia il costo unitario per ogni frammento di informazione elaborato durante l’inferenza. Questa metrica sta guidando decisioni di investimento e di progettazione hardware perché, a fronte di miliardi di richieste giornaliere, anche risparmi minimi per token si traducono in economie su scala industriale.
Parallelamente, il mercato dei personal computer negli Stati Uniti mostra segni di stress: la compressione dell’offerta di memoria DRAM e NAND, dovuta in parte alla crescente domanda per server AI, ha fatto salire i prezzi e rallentato le vendite, specialmente nella fascia economica. La combinazione di costi di inferenza ancora elevati e scarsità di componenti sta riconfigurando supply chain e piani commerciali dei produttori di hardware.
Costo per token: perché è più rilevante dei flop
Per anni il riferimento tecnico principale è stato il conteggio dei FLOPS (operazioni in virgola mobile al secondo), ma l’equazione economica moderna richiede indicatori più direttamente collegati all’erogazione di servizi: costo per token ed energia per token. Questi indicatori misurano la capacità di trasformare energia, memoria, banda di rete e silicio in risposte effettive fornite agli utenti. In pratica, non serve soltanto una grande capacità di calcolo teorica: serve convertirla in output con un costo unitario sostenibile per applicazioni diffuse come chatbot, assistenti aziendali e agenti autonomi.
Le leve tecnologiche che incidono sui conti
Tra le alternative operative e industriali che possono ridurre il costo per token emergono quattro gruppi di interventi. Primo, l’ottimizzazione software del modello: tecniche come quantizzazione e pruning riducono dimensione e operazioni richieste, diminuendo memoria e consumo. Secondo, il packaging 3D che avvicina memoria e logica per accorciare i percorsi dei dati. Terzo, il silicio custom (ASIC per inferenza) ottimizzato su workload specifici. Quarto, il co-packaged optics che integra l’ottica direttamente nei package di switch e acceleratori per abbattere costi energetici e migliorare la densità di banda.
Packaging 3D, silicio custom e il limite della produzione
L’efficacia di tecnologie come il packaging 3D e l’hybrid bonding non dipende solo dal design: conta la capacità industriale di produrre con rese elevate componenti complesse come stack HBM. Quando si parla di riduzioni potenziali dell’ordine dell’80-90% sul costo per token il vincolo reale diventa la filiera produttiva: fonderie, impianti di assemblaggio e fornitori di apparecchiature avanzate sono parte integrante del vantaggio competitivo, non un dettaglio secondario.
Allo stesso modo, i chip su misura per inferenza possono offrire risparmi rilevanti (stime di riduzioni tra il 70% e l’80% per workload target), ma il loro successo commerciale richiede un ecosistema software e toolchain consolidate. Il primato di piattaforme con ecosistemi ampi resta un fattore di attrito per nuovi ASIC specializzati.
Impatto sul mercato pc negli Stati Uniti: scarsità di memoria e aumento dei prezzi
La crescente allocazione di DRAM e NAND verso i server dedicati all’intelligenza artificiale ha un effetto a catena: meno componenti disponibili per i produttori di PC, costi di produzione più elevati e un’offerta di modelli di fascia bassa più limitata. Nel primo trimestre del 2026 le spedizioni statunitensi di PC sono diminuite e la fascia sotto i 500 dollari ha registrato un calo particolarmente marcato, segnalando come i consumatori rinviino gli acquisti in presenza di rincari.
La domanda aziendale risulta più resiliente rispetto al segmento consumer perché molte imprese hanno anticipato ordini per proteggersi da ulteriori aumenti di prezzo; tuttavia, settori come l’istruzione e la pubblica amministrazione risentono di budget più stretti e vedono un rallentamento delle forniture. L’aumento del prezzo medio dei dispositivi è inoltre alimentato dalla crescente quota di PC dotati di funzionalità AI, che rappresentano ormai una quota rilevante delle spedizioni e spostano il mix verso modelli più costosi.
In questo contesto, i grandi operatori stanno orientando investimenti massicci nell’infrastruttura AI, includendo sviluppo di accelerator specializzati e ampliamento della capacità datacenter. La competizione per capitale, alleanze industriali e controllo della filiera produttiva sono
