LLM in italiano: quali modelli open source scegliere

Un LLM che risponde in un italiano incerto, con calchi dall'inglese o con riferimenti normativi inventati, perde la fiducia di chi lo usa dopo pochi giorni. Per un'azienda italiana la qualità della lingua è quindi un requisito, non un dettaglio. In questa guida confrontiamo i grandi modelli multilingue e i modelli nati in Italia (Velvet, Minerva, Domyn, LLaMAntino), spieghiamo cosa misurano le classifiche e mostriamo come fare in un pomeriggio un test sui propri documenti.

Perché l'italiano mette alla prova un LLM

I modelli linguistici imparano dai testi su cui vengono addestrati, e in quasi tutti i grandi modelli l'italiano è una piccola frazione del totale rispetto all'inglese. Questo si vede in quattro punti:

• Registro e stile. Il modello deve saper passare dal tono di una mail a un cliente, con il Lei, a quello di una relazione tecnica, senza calchi dall'inglese ("fare senso", "supportare" per "sostenere") né formule troppo enfatiche.
• Lessico del dominio. Il linguaggio di contratti, circolari, capitolati e normativa italiana (D.Lgs., D.P.R., codici tributo) è specifico e poco presente nei dati di addestramento: è qui che i modelli piccoli sbagliano di più.
• Riferimenti inventati. Un modello può citare con sicurezza articoli di legge o numeri di circolare che non esistono. Il rimedio non è il modello più grande, ma un sistema RAG che faccia rispondere il modello sui documenti veri, citando la fonte.
• Costo in token. Gli strumenti che spezzano il testo in "token" sono ottimizzati soprattutto per l'inglese, quindi lo stesso contenuto in italiano richiede in genere più token: risposte un po' più lente e meno testo nello stesso contesto.

I modelli internazionali che vanno bene in italiano

I grandi modelli multilingue sono oggi la scelta più solida anche per l'italiano, soprattutto dalla taglia media in su. Ecco cosa dichiarano le schede ufficiali:

La taglia conta più della marca. Sotto i 4–9 miliardi di parametri l'italiano diventa evidentemente meno naturale, soprattutto nei testi lunghi; dai 12B in su (Gemma 4 12B, Qwen 3.5 9B al limite) la qualità è adatta a un assistente personale; dai 27–31B a un servizio per tutta l'azienda. Quali di questi girano sul tuo hardware lo dice il calcolatore LLM e GPU.

I modelli nati in Italia

Accanto ai modelli internazionali esistono modelli addestrati da zero o adattati con una quota importante di testi italiani. Sono più piccoli dei modelli di punta, ma hanno caratteristiche che in alcuni progetti pesano.

Almawave sta inoltre pubblicando in queste settimane la nuova famiglia Velvet2, con un modello da 3–4 miliardi di parametri e varianti per immagini e voce: è da tenere d'occhio per i compiti leggeri su hardware ridotto.

Quando conviene un modello italiano

• Trasparenza dei dati. Minerva pubblica anche i dati di addestramento: utile quando bisogna documentare in dettaglio da dove viene il modello, ad esempio in ambito pubblico o di ricerca.
• Filiera europea. In alcune gare pubbliche e in settori regolati un modello sviluppato in Italia è un argomento che pesa nella valutazione.
• Compiti leggeri su hardware ridotto. Classificare richieste, smistare mail, estrarre campi da testi brevi: un modello da 2–10B ben addestrato sull'italiano può bastare.
• Base per il fine-tuning. Per specializzare un modello sul linguaggio di un settore italiano, partire da un modello che conosce già bene la lingua può ridurre i dati necessari.

Quando è meglio un modello internazionale

• Chatbot sui documenti aziendali, dove servono contesto lungo e precisione nel riportare le fonti.
• Agenti che chiamano strumenti e API, Text-to-SQL e ragionamenti in più passaggi.
• Lettura di documenti scansionati e immagini, che i modelli italiani in genere non supportano.

Le classifiche per l'italiano: cosa misurano

Esistono classifiche dedicate ai modelli in lingua italiana, curate dalla comunità di ricerca: Evalita-LLM, con una serie di compiti in italiano a scelta multipla e a risposta aperta, ITA-Bench del gruppo NLP della Sapienza e la Open Ita LLM Leaderboard di mii-llm, tutte su Hugging Face. Sono utili per capire se un modello capisce l'italiano, ma vanno lette con due cautele:

• Misurano altro. Quiz di comprensione, grammatica e cultura generale dicono poco su come il modello risponderà sui manuali, i contratti o le procedure di un'azienda.
• Invecchiano in fretta. Escono modelli nuovi ogni due o tre mesi e non sempre vengono aggiunti subito: una classifica può non contenere proprio i modelli più recenti.

Per una scelta aziendale conta molto di più un test fatto con le proprie domande, come quello descritto qui sotto.

Come fare un test in italiano in un pomeriggio

Il metodo è semplice e non richiede competenze di machine learning:

• Raccogli 20–30 domande reali dai colleghi che useranno l'AI: quelle che fanno davvero, con il loro linguaggio. Per i test sui documenti, incolla nella domanda il brano su cui il modello deve rispondere.
• Scegli due o tre candidati che il tuo hardware regge, ad esempio Qwen 3.8 27B, Gemma 4 31B e Mistral Small 3.2 su una GPU da 24 GB.
• Fai rispondere tutti con le stesse istruzioni e la stessa temperatura.
• Fai valutare alla cieca da due persone, senza dire quale modello ha scritto cosa, con quattro voci da 1 a 5: correttezza, italiano naturale, aderenza al testo fornito, formato richiesto.

Questo script fa la parte noiosa: legge le domande da un file di testo (una per riga), le manda ai modelli installati con Ollama e salva le risposte in un file CSV che si apre con Excel, in ordine casuale per ogni domanda. Richiede Python e la libreria openai (pip install openai).

# confronta_modelli.py: stesse domande a più modelli locali, risposte in un CSV
# da valutare alla cieca. Prima scarica i modelli con: ollama pull <nome>
import csv, random, string
from openai import OpenAI

client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")
MODELLI = ["qwen3.8:27b", "gemma4:31b", "mistral-small3.2:24b"]
ISTRUZIONI = ("Sei l'assistente interno di un'azienda italiana. Rispondi sempre in "
              "italiano corretto, dando del Lei, in modo chiaro e conciso. "
              "Se una cosa non la sai o non è nel testo fornito, dillo.")

with open("domande.txt", encoding="utf-8") as f:
    domande = [riga.strip() for riga in f if riga.strip()]

righe = []
for domanda in domande:
    risposte = []
    for modello in MODELLI:
        r = client.chat.completions.create(
            model=modello, temperature=0.2,
            messages=[{"role": "system", "content": ISTRUZIONI},
                      {"role": "user", "content": domanda}])
        risposte.append((modello, r.choices[0].message.content.strip()))
    random.shuffle(risposte)   # chi valuta non deve sapere quale modello è quale
    righe.append([domanda] + [testo for _, testo in risposte]
                 + [" | ".join(modello for modello, _ in risposte)])

colonne = [f"Risposta {lettera}" for lettera in string.ascii_uppercase[:len(MODELLI)]]
with open("confronto.csv", "w", newline="", encoding="utf-8-sig") as f:
    scrittore = csv.writer(f, delimiter=";")
    scrittore.writerow(["Domanda"] + colonne + ["Chiave (da nascondere a chi valuta)"])
    scrittore.writerows(righe)
print(f"Fatto: {len(righe)} domande in confronto.csv")

Prima di consegnare il file a chi valuta, nascondi l'ultima colonna: indica, nell'ordine, quale modello ha scritto le risposte A, B e C. Ollama carica un modello alla volta, quindi anche con una sola GPU da 24 GB il test funziona, solo un po' più lentamente. I modelli che ragionano prima di rispondere, come Qwen 3.6, impiegano più tempo: valuta solo la risposta finale. Per installare Ollama e i modelli c'è la guida come installare un LLM locale.

Cinque accorgimenti per un italiano migliore

• Scrivi le istruzioni in italiano, indicando registro (Lei o tu), lunghezza e formato della risposta: i modelli seguono il tono delle istruzioni.
• Dai un piccolo glossario con i termini dell'azienda e dei clienti, e le parole da evitare.
• Abbassa la temperatura (0,1–0,3) per risposte su documenti e procedure: meno fantasia, meno errori.
• Fai rispondere sui documenti, non sulla memoria del modello: con un chatbot sui documenti aziendali il modello cita la fonte e non inventa riferimenti normativi.
• Prova la versione a 8 bit se la memoria lo consente: la quantizzazione a 4 bit pesa poco sull'inglese, ma sulle lingue meno presenti nei dati la differenza può farsi notare.

Serve il fine-tuning per l'italiano?

Quasi mai per la lingua in sé: i modelli da 27–31B scrivono già un buon italiano. Il fine-tuning diventa utile quando il problema è il dominio, cioè un gergo tecnico di nicchia, formati di documento proprietari o uno stile di scrittura molto preciso, e si hanno almeno un migliaio di esempi corretti. Come si fa, con il codice, è nella guida all'esempio di fine-tuning LoRA.

Le domande più comuni

Qual è il miglior LLM open source in italiano?

Per un uso aziendale generale, a novembre 2026, i modelli open con l'italiano più solido sono i grandi multilingue da 27–31B: Qwen 3.8 27B, Gemma 4 31B e Mistral Small. Tra i modelli nati in Italia, Velvet 14B e Domyn Small sono i più completi. La scelta finale va fatta con un test sulle domande reali.

Esiste un ChatGPT italiano open source?

Esistono modelli sviluppati in Italia, come Velvet di Almawave, Minerva della Sapienza e Domyn Small, scaricabili con licenze aperte. Per avere un'esperienza simile a ChatGPT in azienda, però, il modello è solo un pezzo: servono un server, un'interfaccia di chat e, quasi sempre, il collegamento ai documenti aziendali. È quello che descriviamo nella pagina sull'AI locale e privata.

Velvet e Minerva si possono usare gratis in azienda?

Sì: Velvet 14B e 2B e Minerva 7B hanno licenza Apache 2.0, che permette l'uso commerciale. Per scaricare Velvet da Hugging Face bisogna prima richiedere l'accesso; la versione su Ollama si scarica direttamente. Domyn Small ha licenza MIT. Maestrale invece ha una licenza non commerciale. Il quadro di tutte le licenze è nella guida licenze dei modelli AI open.

Un modello piccolo parla bene italiano?

Per compiti brevi e strutturati, come classificare una richiesta o estrarre dei campi, un modello da 2–9B può bastare. Per scrivere testi, rispondere su documenti o sostenere una conversazione, sotto i 9–12 miliardi di parametri l'italiano diventa evidentemente meno naturale e gli errori aumentano.

DeepSeek e Qwen, che sono cinesi, vanno bene per l'italiano?

Qwen sì: è tra i modelli open che gestiscono meglio l'italiano, e la scheda di Qwen 3.5 dichiara 201 lingue e dialetti. DeepSeek V4 e V4.1 sono molto capaci ma troppo grandi per una PMI. Usati in locale, nessuno dei due invia dati all'esterno: i dettagli sono nella pagina sui modelli AI open source.

Fonti: schede ufficiali dei modelli su Hugging Face (AlmawaveLabs, Sapienza NLP, Domyn, Università di Bari, mii-llm, Qwen, Google, Mistral AI, Meta, OpenAI) e libreria Ollama, consultate il 3 novembre 2026.