Scegli il tuo hardware e l'uso che vuoi farne: il calcolatore ti dice quali modelli AI open source ci stanno, quanta memoria occupano e quale conviene provare per primo. I pesi dei modelli sono quelli reali dei file di Ollama a novembre 2026; il margine per la conversazione è una stima, che cresce con la lunghezza dei documenti e il numero di persone collegate.
Come funziona il calcolo
Un LLM gira veloce solo se sta per intero nella memoria della scheda video. Il calcolatore somma due voci e le confronta con la memoria disponibile:
- Il peso del modello, cioè la dimensione del file scaricato con Ollama. Usiamo la versione quantizzata a 4 bit (q4_K_M), il formato standard, e indichiamo anche quando ci sta la versione a 8 bit, più fedele all'originale.
- Il margine per la conversazione (la cosiddetta cache KV), che dipende da quanto testo il modello deve tenere a mente e da quante persone lo usano insieme: da circa 1,5 GB per una persona che fa domande brevi a diversi GB per un ufficio intero o per documenti lunghi.
Sui Mac la memoria è condivisa tra processore e GPU, e macOS ne lascia alla GPU circa due terzi (fino a 36 GB) o tre quarti (oltre). Sui PC senza scheda video il modello usa la RAM e la CPU: funziona, ma le risposte arrivano lentamente, con qualche parola al secondo. Va bene per una prova, non per un servizio aziendale.
Un margine in più. I valori sono indicativi. Se il risultato è al limite, scegli il modello più piccolo o una scheda con più memoria: quando il modello non ci sta, Ollama sposta una parte del lavoro sulla CPU e la velocità crolla. Con ollama ps vedi se il modello gira al 100% sulla GPU.
Quanta memoria occupa ogni modello
Pesi dei file nella libreria di Ollama, consultata il 3 novembre 2026. Alla memoria del file va aggiunto il margine per la conversazione.
| Modello | A 4 bit | A 8 bit | Scheda minima consigliata | Note |
|---|---|---|---|---|
| Qwen 3.5 4B | 3,4 GB | — | 6 GB | Testo e immagini |
| Gemma 4 E4B | 6,6 GB | — | 8 GB | Pensato per PC e portatili |
| Qwen 3.5 9B | 6,6 GB | — | 8 GB | Il punto di partenza su 8 GB |
| Gemma 4 12B | 8,0 GB | — | 12 GB | Il miglior compromesso su 12–16 GB |
| gpt-oss-20b | 14 GB | — | 16 GB | Solo testo, MoE, forte sul ragionamento |
| Mistral Small 3.2 24B | 15 GB | — | 20–24 GB | Alternativa europea |
| Qwen 3.6 27B | 17 GB | 30 GB | 24 GB | Esiste una versione per il codice |
| Qwen 3.8 27B | 18 GB | 30 GB | 24 GB | Il riferimento su 24 GB |
| Gemma 4 26B | 18 GB | 28 GB | 24 GB | MoE, circa 4B attivi: molto veloce |
| Gemma 4 31B | 20 GB | 34 GB | 24 GB | Qualità alta su documenti complessi |
| Qwen 3.6 35B-A3B | 24 GB | 39 GB | 32 GB | MoE, 3B attivi: adatto agli agenti |
| Llama 3.3 70B | 43 GB | — | 48 GB | Solo testo, licenza Llama |
| gpt-oss-120b | 65 GB | — | 80 GB | Solo testo, MoE |
| Qwen 3.5 122B-A10B | 81 GB | — | 96 GB | MoE, testo e immagini |
Restano fuori dalla portata di una singola GPU DeepSeek V4 e V4.1, Mistral Large 4 e Qwen 3.5 397B: richiedono server con più GPU professionali da 80 GB. Il confronto tra i modelli, compito per compito, è nella pagina Modelli AI open source.
Le domande più comuni
Quale LLM posso usare con 8 GB di VRAM?
Con 8 GB (RTX 4060, RTX 3070, molti portatili con GPU) girano bene Qwen 3.5 9B e Gemma 4 E4B, che occupano circa 6,6 GB. Sono adatti a riassunti, classificazione di testi, chat personale e prime prove sui documenti. Per un uso aziendale condiviso servono schede più grandi.
Quale LLM posso usare con 12 o 16 GB?
Con 12 GB il modello di riferimento è Gemma 4 12B. Con 16 GB (RTX 4060 Ti 16 GB, RTX 5060 Ti, RTX 4070 Ti Super) si aggiunge gpt-oss-20b, molto forte nel ragionamento e negli agenti, ma solo testo.
Quale LLM posso usare con 24 GB?
Con 24 GB (RTX 3090, RTX 4090) entrano i modelli da 27–31 miliardi di parametri: Qwen 3.8 27B, Qwen 3.6 27B, Gemma 4 26B e 31B. È la fascia che copre la maggior parte degli usi aziendali, dal chatbot sui documenti all'estrazione di dati. Con una RTX 5090 da 32 GB si guadagna spazio per documenti lunghi e più utenti, e si aggiunge Qwen 3.6 35B-A3B.
Posso usare un LLM senza scheda video?
Sì, con i modelli piccoli (Qwen 3.5 4B, Gemma 4 E4B) e almeno 16 GB di RAM: Ollama usa automaticamente la CPU. Le risposte sono però lente, nell'ordine di qualche parola al secondo, quindi è una soluzione per provare, non per lavorare ogni giorno.
Quale LLM gira su un Mac?
Su un Mac con chip Apple conta la memoria unificata: con 16 GB si arriva a Gemma 4 12B, con 24 GB si aggiunge gpt-oss-20b, con 32 GB entrano al limite i modelli da 27B, con 48–64 GB i modelli da 27–35B con margine per documenti lunghi. LM Studio supporta anche il formato MLX, ottimizzato per i chip Apple.
Due schede video si sommano?
Sì: Ollama, LM Studio e vLLM possono dividere un modello su più GPU, quindi due RTX 4090 offrono circa 48 GB utili. La velocità cresce meno della memoria, e per un server aziendale una sola scheda professionale con molta memoria è spesso più semplice da gestire.
Per una misura reale del tuo computer, con il test dei modelli in Ollama, usa l'app gratuita Gaulin AI Check. Per installare il modello scelto c'è la guida come installare un LLM locale; per dimensionare un server per l'intera azienda, la pagina sul server LLM locale.
Fonti: libreria Ollama e schede ufficiali dei modelli su Hugging Face, consultate il 3 novembre 2026.
Devi scegliere l'hardware per un server AI aziendale?
Dimensioniamo GPU e modello sul numero di utenti e sui tuoi documenti. 30 minuti con un tecnico, senza impegno.
Richiedi un dimensionamento →Il servizio è rivolto ad aziende, professionisti ed enti.