Quanto costa davvero mettere l'AI dentro l'azienda: tre configurazioni con prezzi e prestazioni

Cercate "AI on-premise" in italiano e trovate decine di pagine che promettono la vostra intelligenza artificiale privata, sicura, conforme, sui vostri server.

Provate a cercare, in quelle pagine, il nome di una scheda video. Un prezzo. Un numero di token al secondo. Quanti gigabyte di memoria serve avere.

Non li trovate. Il tema è affollatissimo di dichiarazioni e vuoto di numeri.

Questo articolo prova a riempire quel vuoto. È lungo, ha delle tabelle, e in fondo dice anche quando non conviene farlo — che è la parte che un fornitore normalmente omette.

La regola che decide tutto: la memoria video

Prima dei prezzi bisogna capire una cosa sola, perché da quella dipende ogni scelta successiva.

Per far girare un modello linguistico dovete tenerlo interamente in memoria. Non sul disco: in memoria, quella della scheda video (VRAM) o, sui Mac, la memoria unificata. Se il modello non ci sta, non gira — o gira appoggiandosi al disco a velocità inutilizzabili.

Quanta memoria serve dipende dal numero di parametri e da quanto è stato compresso il modello. La compressione si chiama quantizzazione: a "Q4", che è il compromesso più usato in azienda, servono grosso modo mezzo gigabyte ogni miliardo di parametri, più un margine per il contesto.

C'è una trappola in questa tabella e va detta, perché ci cascano anche i tecnici. I modelli più recenti sono spesso MoE, mixture of experts: hanno tanti parametri totali ma ne attivano solo una frazione a ogni risposta. Per esempio gpt-oss-120b di OpenAI ha 117 miliardi di parametri totali e ne attiva 5,1 miliardi.

Sembra la soluzione a tutti i problemi. Non lo è: per la memoria conta il totale, non l'attivo, perché tutti gli esperti devono comunque stare caricati. Il vantaggio dei MoE è la velocità, non lo spazio. Chi vi dice "sono solo 5 miliardi attivi, gira dappertutto" ha capito male o spera che lo capiate male voi.

Tre configurazioni reali

I prezzi che seguono vengono da una rassegna con benchmark dichiarati di aprile 2026, riferita al mercato statunitense. Li abbiamo convertiti in euro al cambio del 12 agosto 2026 (1,1525 dollari per euro) e arrotondati, e sono da intendersi IVA esclusa. In Italia, fra margini di distribuzione e disponibilità effettiva, i listini tendono a essere più alti: usateli come ordini di grandezza per capire in quale campionato state giocando, non come preventivo.

Configurazione A — la macchina da reparto (~4.300-7.000 € di sistema completo)

Una RTX 5090: 32 GB di memoria, 1.792 GB/s di banda. La scheda da sola sta fra 3.000 e 4.200 euro, il sistema completo fra 4.300 e 7.000.

Cosa ci fate: modelli fino a circa 30 miliardi di parametri, a 60-90 token al secondo. Che è una velocità piacevole, paragonabile a un servizio online.

Cosa ci fanno le aziende, concretamente: classificazione di documenti in arrivo, estrazione di dati da fatture e DDT, ricerca semantica sull'archivio interno, prima bozza di risposte standard, riassunto di capitolati. Compiti ripetitivi, verticali, ad alto volume.

È la configurazione che nel 90% dei casi risolve il problema reale di una PMI. E quasi nessuno la propone, perché costa poco.

Configurazione B — il Mac che sembra un affare (3.000-5.200 €)

Un Mac Studio M4 Max con 128 GB di memoria unificata costa circa 3.000 euro e in memoria ci fa stare un modello da 70 miliardi di parametri. Sulla carta è imbattibile: metà del prezzo di una GPU professionale, quattro volte la memoria di una 5090.

Il problema è la banda di memoria: 546 GB/s contro i 1.792 della 5090. E la banda è ciò che determina la velocità di generazione. Risultato misurato: 8-15 token al secondo su un modello da 70 miliardi.

Traduciamolo. Sono circa dieci parole al secondo: leggibile, ma se chiedete un riassunto di due pagine aspettate quasi un minuto guardando il cursore. Per un uso interattivo — una persona che fa domande e aspetta risposte — è frustrante. Per un uso batch — trecento documenti da elaborare stanotte — è perfettamente adeguato.

La versione M3 Ultra da 256 GB (circa 5.200 euro) arriva a 819 GB/s e regge modelli enormi. Resta la macchina più economica al mondo per far girare qualcosa da 400 miliardi di parametri, con la stessa avvertenza sulla velocità.

Configurazione C — la workstation professionale (~19.000 €)

Una RTX PRO 6000 Blackwell: 96 GB di memoria a 1,8 TB/s. Fa girare modelli da 70 miliardi con lo stack CUDA, quindi con tutto l'ecosistema software maturo, e regge il fine-tuning.

Qui però c'è la notizia che vale da sola il tempo di lettura: questa scheda è passata da circa 7.400 euro al lancio a circa 11.500 euro sul marketplace NVIDIA ad agosto 2026. Più 55% in pochi mesi.

E non è un caso isolato.

Il preventivo che avete in cassetto non vale più

Se state pianificando un investimento in infrastruttura sulla base di numeri raccolti nel 2025, fermatevi.

Fra settembre e dicembre 2025 la DRAM enterprise è aumentata mediamente del 60%. I componenti server acquistati dai produttori sono saliti del 25%. I server general purpose erano attesi in crescita del 10-15% entro marzo 2026. E secondo IDC la stabilizzazione non è prevista prima della fine del 2027.

La causa è a monte e non si risolve con una trattativa: la capacità produttiva delle fabbriche di memoria è stata dirottata sulla HBM per gli acceleratori AI dei grandi data center. Chi compra memoria per un server aziendale è in coda dietro a chi ne compra decine di migliaia.

Un effetto collaterale che dice tutto: Apple ha ritirato dal listino l'opzione da 512 GB del Mac Studio per la stessa ragione.

Le conseguenze pratiche per chi deve decidere sono tre. I preventivi hardware vanno chiesti con validità esplicita e vanno considerati scaduti dopo poche settimane. Se avete una migrazione già pianificata — e nel 2026-2027 scadono il supporto di SQL Server 2016 e di Windows Server 2016 — anticiparla ha un valore economico misurabile. E terzo: sovradimensionare la memoria "per stare tranquilli" oggi costa molto più di ieri, quindi conviene dimensionare sul caso d'uso vero, non sul massimo teorico.

La voce di costo che nessuno mette nel business case: l'energia

Nei preventivi che vediamo circolare non compare mai. Eppure una macchina del genere, se la usate davvero, sta accesa.

Il conto lo potete fare voi, e vi consigliamo di farlo con la vostra bolletta in mano invece che con i nostri numeri:

kWh all'anno = potenza media in watt × ore di accensione al giorno × 365 ÷ 1.000

Per dare gli ordini di grandezza: una workstation con una GPU professionale sotto carico continuo assorbe intorno agli 800-1.000 W considerando tutto il sistema; a riposo ma accesa, intorno ai 150-250 W. Una macchina accesa 24 ore su 24 con un utilizzo misto realistico si colloca fra i 2.500 e i 7.000 kWh l'anno.

Sulle tariffe industriali italiane questo significa una voce di costo annua che va da poche centinaia a oltre mille euro. Non è la cifra che fa saltare un progetto, ma è la cifra che fa perdere credibilità a un business case quando salta fuori dopo, in sede di consuntivo. Mettetela dentro, e mettete dentro anche il fatto che quella macchina va raffreddata e sta in un locale che a sua volta va raffreddato.

Fine-tuning: cosa si può fare in casa e cosa no

Domanda ricorrente: "possiamo addestrarlo sui nostri dati?"

Distinguiamo. Il fine-tuning leggero con tecniche tipo QLoRA su un modello da 70 miliardi richiede circa 38 GB di memoria di picco e gira in poche ore su una workstation professionale. È fattibile in casa ed è quasi sempre quello che serve.

L'addestramento completo di un modello da 70 miliardi in azienda non si fa. Non è una questione di volontà: è una questione di ordini di grandezza. Se qualcuno ve lo propone, chiedete su quale hardware.

Va aggiunto che nella maggior parte dei casi aziendali il fine-tuning non serve affatto: serve un buon sistema di recupero documentale (RAG) che dia al modello i vostri documenti al momento della domanda. È più economico, più aggiornabile e più facile da correggere quando sbaglia.

Quando conviene, e con quale ragionamento

Se il criterio è il costo per token, l'on-premise per una PMI quasi mai batte le API dei fornitori cloud. Le analisi di mercato collocano il pareggio economico intorno al miliardo di token al mese, con ammortamenti di circa trenta mesi; a dieci miliardi al mese il pareggio scende a due mesi. Una PMI del Triveneto non genera quei volumi, e chi vi presenta l'AI locale come risparmio sta facendo un conto che non torna.

Ci sono però quattro ragioni per cui l'on-premise regge benissimo, e sono ragioni diverse dal prezzo.

Il percorso del dato. Se dovete elaborare contratti, progetti, listini, cartelle cliniche o dati coperti da segreto industriale, sapere che quel contenuto non esce dalla vostra rete non è una preferenza estetica: è una condizione contrattuale o normativa.

I volumi alti e prevedibili. Un compito ripetitivo che macina migliaia di documenti al giorno cambia completamente l'aritmetica rispetto a un uso conversazionale sporadico.

Il funzionamento offline. Stabilimenti con connettività scarsa, ambienti isolati per scelta, continuità operativa che non deve dipendere da un fornitore esterno.

I modelli piccoli e specializzati. Un modello da 8 o 27 miliardi che fa una cosa sola e la fa bene, su una macchina da 4.000 euro, è un progetto solido. Un "ChatGPT aziendale generalista" a 10 token al secondo che compete con un servizio online che ne fa dieci volte tanti è un progetto debole, e ve ne accorgerete dopo tre mesi quando nessuno lo userà più.

Come dimensionare, in pratica

L'ordine giusto delle domande è questo, e non è quello che segue quasi nessuno.

Primo: qual è il compito, in una frase, e quanti documenti o richieste al giorno. Secondo: serve interattivo o va bene batch — questa singola risposta sposta la scelta hardware più di ogni altra. Terzo: quali dati deve toccare e da dove arrivano. Quarto: quanto è grande il modello più piccolo che fa quel lavoro — e la risposta va cercata provando, non stimando. Solo a quel punto si sceglie la macchina.

Nella nostra esperienza chi parte dall'hardware compra troppo, e chi parte dal caso d'uso spesso scopre che gli basta la configurazione A.

Una nota sui nomi dei modelli

In questo articolo abbiamo citato un solo modello per nome, gpt-oss di OpenAI, perché i suoi requisiti sono verificabili sulla scheda ufficiale del modello: 117 miliardi di parametri totali e 5,1 attivi per la versione grande, che gira su una singola GPU da 80 GB, e 21 miliardi totali con 16 GB di memoria per la piccola. Licenza Apache 2.0, quindi utilizzabile commercialmente.

Per il resto abbiamo ragionato per classi di dimensione invece che per nomi. È una scelta deliberata: le classifiche dei "migliori modelli aperti 2026" che circolano si contraddicono fra loro anche a distanza di due settimane, e citare una versione che fra un mese sarà superata è il modo più rapido per far invecchiare male un articolo. Quando scegliete, verificate i requisiti sulla scheda ufficiale del modello il giorno in cui lo installate.

Le domande che ci fanno

Posso far girare un'AI sul server che ho già?

Quasi certamente no, se è un server aziendale normale: senza una scheda video adeguata il modello gira sulla CPU a velocità inutilizzabili. La domanda giusta non è se il server basta, ma quale scheda ci potete mettere e se l'alimentazione e il raffreddamento la reggono.

Quanta memoria serve per un modello da 70 miliardi di parametri?

Fra 35 e 40 GB con la compressione a Q4. Che significa una GPU professionale o un Mac con 128 GB di memoria unificata: una scheda consumer da 32 GB non ci arriva.

Meglio un Mac o una scheda NVIDIA?

Dipende da una cosa sola: se l'uso è interattivo o batch. Il Mac costa meno e regge modelli più grandi, ma genera a 8-15 token al secondo. Se qualcuno sta davanti allo schermo ad aspettare, prendete NVIDIA; se il lavoro gira di notte su una coda di documenti, il Mac è la scelta economicamente più sensata.

Quanto costa in bolletta?

Fra qualche centinaio e oltre mille euro l'anno, a seconda di quanto la tenete accesa e sotto carico. La formula per calcolarlo con la vostra tariffa è più su nell'articolo: fatelo prima di approvare la spesa, non dopo.

Possiamo addestrarlo sui nostri dati?

Il fine-tuning leggero sì, in casa, in poche ore. L'addestramento completo di un modello grande no, e non è una questione di budget. Ma nella maggior parte dei casi non serve nessuna delle due cose: serve un buon sistema di recupero documentale, che è più economico e si aggiorna da solo quando cambiate i documenti.

Se aspetto, i prezzi scendono?

Non nel breve. IDC non prevede una stabilizzazione dei prezzi delle memorie prima della fine del 2027, e la domanda di HBM per i data center continua a togliere capacità produttiva al resto. Se avete una necessità reale adesso, aspettare probabilmente vi costa di più.

In sintesi

Una macchina da reparto per compiti verticali sta intorno ai 4.300-7.000 euro e va a 60-90 token al secondo. Un Mac con molta memoria costa meno e regge modelli più grandi, ma a 8-15 token al secondo: ottimo in batch, scomodo in interattivo. Una workstation professionale sta intorno ai 19.000 euro ed è l'unica che regge fine-tuning e modelli grandi con velocità piena. L'hardware sta rincarando e non si stabilizzerà prima della fine del 2027. E l'energia va messa nel conto prima, non dopo.

Se volete capire in quale configurazione cade il vostro caso — o se conviene non farlo affatto — parliamone. Le prime due domande le facciamo noi, e sono sul compito, non sulla macchina.

Articoli correlati:

• Quando l'AI locale non conviene: i conti che nessun fornitore vi mostra
• Quanto costa integrare l'AI nei sistemi aziendali?
• Data Lake nel retail: come 120 punti vendita hanno smesso di cercare informazioni