Gemma 4 in locale: versioni, requisiti e installazione con Ollama

Gemma 4 è la famiglia di modelli open di Google DeepMind, rilasciata con licenza Apache 2.0: si può scaricare, installare e usare anche per scopi commerciali senza pagare licenze. Si trova sui grandi cloud, ma il suo punto di forza è un altro: gira in locale, su un PC o su un server aziendale, con i dati che non escono mai dall'azienda. In questa guida vediamo le cinque versioni, quanta memoria serve a ciascuna, come installarla con Ollama e quando conviene usarla in azienda.

Le cinque versioni di Gemma 4

La famiglia copre tutte le taglie, dal portatile al server. I dati sono quelli delle schede ufficiali dei modelli su Hugging Face e della documentazione Google; la memoria è quella che serve per caricare i pesi del modello quantizzato a 4 bit, il formato standard per l'uso in locale.

Alla memoria dei pesi va aggiunta quella per il contesto, cioè il testo della conversazione e dei documenti: qualche GB in più, che cresce con documenti lunghi e con più utenti in contemporanea. Le "E" delle versioni piccole stanno per parametri effettivi: sono modelli pensati per PC e dispositivi, che con gli embedding arrivano a 5,1 e 8 miliardi. La 12B Unified è arrivata dopo le altre: elimina i moduli separati per immagini e audio e li proietta direttamente nel modello. La 26B A4B è un modello Mixture-of-Experts: per ogni parola attiva solo 3,8 miliardi di parametri ed è quindi veloce quasi come un modello da 4B, ma deve comunque stare tutto in memoria.

Quale versione scegliere per il tuo hardware

• Portatile o PC senza GPU dedicata: E2B o E4B. Bastano per riassumere testi, classificare email, estrarre dati da documenti brevi e fare le prime prove.
• PC con GPU da 12–16 GB o Mac con 24–32 GB: 12B. È il compromesso migliore per un assistente personale che lavora anche su documenti lunghi, grazie al contesto da 256K token.
• GPU da 24 GB (RTX 3090, RTX 4090, L4): 26B A4B se conta la velocità, per esempio con più persone che lo usano insieme; 31B se conta la qualità, per esempio nell'analisi di contratti e capitolati.
• GPU da 32 GB o più: 31B con contesto lungo, oppure versioni a 8 bit (circa 29 GB per il 26B e 35 GB per il 31B) quando serve la massima fedeltà.

Per confrontare Gemma 4 con gli altri modelli che girano sulla stessa GPU c'è la tabella quale LLM puoi usare con la tua GPU.

Come installare Gemma 4 in locale con Ollama

Ollama è il modo più semplice: è gratuito, funziona su Windows, macOS e Linux e scarica il modello già quantizzato. Dopo averlo installato da ollama.com, basta un comando:

ollama run gemma4          # versione predefinita: E4B
ollama run gemma4:12b      # 12B Unified
ollama run gemma4:26b      # 26B A4B (MoE)
ollama run gemma4:31b      # 31B

Tre accorgimenti utili:

• Le versioni "qat" (per esempio gemma4:31b-it-qat) sono addestrate per funzionare a 4 bit: occupano un po' meno spazio e perdono meno qualità rispetto alla quantizzazione normale.
• Attenzione ai tag "cloud": gemma4:cloud e gemma4:31b-cloud fanno girare il modello sui server di Ollama, non sul tuo computer. Se l'obiettivo è tenere i dati in casa, vanno evitati.
• Audio: E2B, E4B e 12B capiscono anche l'audio (clip fino a 30 secondi), ma nella libreria Ollama tutte le versioni sono indicate con input di testo e immagini. Per la trascrizione conviene verificare il supporto nello strumento che si usa.

Ollama espone anche un'API compatibile con OpenAI, quindi le applicazioni scritte per ChatGPT possono usare Gemma 4 in locale cambiando solo l'indirizzo. Per un servizio usato da molte persone in contemporanea si passa di solito a vLLM: la differenza tra i due è spiegata nel confronto Ollama, LM Studio o vLLM.

Cosa ci si può fare in azienda

• Domande sui documenti: con il contesto da 256K token le versioni 12B, 26B e 31B leggono contratti, manuali e capitolati interi; per archivi grandi si collega a un sistema RAG che cerca i passaggi giusti e cita la fonte.
• Documenti scansionati e immagini: tutte le versioni leggono immagini, quindi fatture, bolle, targhette di macchinari e disegni tecnici; i video vengono analizzati come sequenza di fotogrammi.
• Agenti e automazioni: Gemma 4 supporta in modo nativo le chiamate a funzioni, cioè può usare strumenti come il gestionale o il CRM; è la base per gli agenti AI locali.
• Ragionamento: ha una modalità "thinking" da attivare per i compiti in più passaggi, come confronti tra documenti o calcoli.
• Italiano: è addestrato su oltre 140 lingue e ne supporta più di 35 senza adattamenti, italiano compreso.

Se serve che il modello usi il gergo di un settore o il formato dei documenti aziendali, Gemma 4 si può specializzare con il fine-tuning LoRA, sullo stesso server su cui gira.

Gemma 4 su cloud o in locale?

Gemma 4 è disponibile anche come servizio gestito sui principali cloud, tra cui Amazon Bedrock e Google Cloud. È comodo per una prova, ma i documenti viaggiano verso server esterni e il costo cresce con l'uso. In locale vale il contrario: si paga l'hardware una volta, i costi non dipendono da quante domande si fanno e i dati restano nella rete aziendale, il che semplifica molto GDPR e riservatezza. Con una licenza Apache 2.0 non ci sono vincoli d'uso, quindi la scelta dipende solo da dove si vogliono tenere i dati.

Dal PC al server aziendale

Gemma 4 su un PC serve una persona alla volta. Per farla usare a un ufficio servono un server con GPU dimensionata sul numero di utenti, una chat con accessi per utente, il collegamento ai documenti e qualcuno che la aggiorni. È il passaggio descritto nella pagina sull'AI locale e privata per aziende. Per scegliere tra Gemma 4 e gli altri modelli open, come Qwen 3.6 e gpt-oss, c'è il confronto dei modelli LLM open source 2026.

Fonte della notizia: Hugging Face, scheda ufficiale di Gemma 4. Analisi e contesto per le PMI italiane a cura della redazione Gaulin.ai.