Quale LLM gira
sul tuo PC o server?
Gaulin AI Check analizza la scheda video, misura le prestazioni reali e ti consegna un report chiaro: quali modelli AI puoi usare, a che velocità e per quali attività aziendali.
Un test di un minuto,
un report che capisce anche chi non è tecnico
Prima di comprare un server o di installare un modello AI conviene sapere cosa può fare l'hardware che hai già. Gaulin AI Check risponde in quattro passi, senza configurazioni.
Rileva l'hardware
Sistema operativo, processore, RAM, disco e GPU. Su NVIDIA legge dal driver la banda di memoria esatta; per le altre schede usa un database di circa 120 modelli.
Misura la GPU
Un benchmark via WebGPU (Vulkan, Metal o DirectX 12) misura la banda di memoria, che decide la velocità di risposta, e la potenza di calcolo, che decide quanto in fretta vengono letti i documenti.
Prova un modello vero
Se sul computer c'è Ollama, fa generare del testo a un modello piccolo e misura i token al secondo reali. Questo dato calibra tutte le altre stime.
Scrive il report
Una pagina HTML che si apre nel browser, più un file JSON con tutti i dati. Puoi conservarlo, stamparlo o inviarlo a chi deve decidere.
Cosa trovi nel report
Il report parte dalla risposta che interessa davvero, cioè se il computer è adatto, e scende nei dettagli solo dopo.
Un verdetto da 0 a 5
Da "Non adatto" a "Server AI", con i numeri chiave: memoria utilizzabile dalla GPU, banda effettiva, modello migliore consigliato e quante conversazioni contemporanee regge.
Cosa puoi farci
Dieci casi d'uso aziendali con un giudizio ciascuno: chatbot sui documenti, assistente clienti, agenti AI, Text-to-SQL, programmazione, trascrizione audio, immagini e fine-tuning.
Modelli e strumenti
Per ognuno dei 23 modelli, da Gemma 4 a Qwen3, gpt-oss, Llama e DeepSeek: dove gira (tutto in GPU, GPU + RAM, solo CPU), quanti token al secondo e quale contesto massimo. Poi la compatibilità di Ollama, llama.cpp, LM Studio, vLLM, MLX, Unsloth e Docker.
I sei livelli del verdetto
| Livello | Cosa significa | Hardware tipico |
|---|---|---|
| 0 · Non adatto | Nemmeno i modelli piccoli girano a una velocità utilizzabile. | PC datati senza GPU |
| 1 · Uso di base | Modelli da 3–4 miliardi di parametri: riassunti, bozze, domande semplici. | Portatili con GPU da 4 GB, PC senza GPU |
| 2 · Adeguato per iniziare | Modelli da circa 8 miliardi: un chatbot sui documenti per pochi utenti. | GPU da 8 GB, Mac con 16 GB |
| 3 · Buono per l'azienda | Modelli da 12–24 miliardi: RAG, agenti e automazioni con buona qualità. | GPU da 12–16 GB, Mac con 24–32 GB |
| 4 · Ottimo | Modelli da 27–32 miliardi: qualità vicina ai servizi cloud per molti compiti. | RTX 3090, 4090, 5090, Mac con 64 GB |
| 5 · Server AI | Modelli da 70 miliardi e oltre, più utenti contemporanei. | GPU da 48–96 GB o più GPU |
Dal livello 3 in su il modello deve stare per intero nella memoria della GPU. Un modello diviso tra GPU e RAM può essere veloce per una persona, ma con più utenti o documenti lunghi rallenta molto: va bene per una prova, non per un servizio aziendale.
Come eseguire Gaulin AI Check
Il modo più semplice è scaricare l'eseguibile pronto: un solo file, niente da installare. In alternativa puoi avviarlo dal codice sorgente con Python.
Opzione 1 · Eseguibile pronto
Apri la pagina Releases su GitHub e scarica il file per il tuo sistema. Il test dura circa un minuto e alla fine il report si apre da solo nel browser; viene salvato anche nella cartella da cui hai avviato il programma.
| Sistema | File da scaricare | Come avviarlo |
|---|---|---|
| Windows 10/11 | gaulin-ai-check-windows-amd64.exe | Doppio clic. Se compare l'avviso di Windows SmartScreen scegli "Ulteriori informazioni" e poi "Esegui comunque": l'eseguibile non è ancora firmato digitalmente. |
| macOS (Apple Silicon) | gaulin-ai-check-macos-arm64 | Da Terminale, nella cartella del download, esegui i comandi qui sotto. Se macOS blocca l'apertura, vai in Impostazioni di Sistema → Privacy e sicurezza → "Apri comunque". |
| Linux x86-64 | gaulin-ai-check-linux-x86_64 | Rendi il file eseguibile e avvialo da terminale. Compilato su Ubuntu 22.04: funziona sulle distribuzioni con glibc 2.35 o successiva. |
# macOS
xattr -d com.apple.quarantine gaulin-ai-check-macos-arm64 # toglie il blocco del download
chmod +x gaulin-ai-check-macos-arm64
./gaulin-ai-check-macos-arm64
# Linux
chmod +x gaulin-ai-check-linux-x86_64
./gaulin-ai-check-linux-x86_64Per un risultato più preciso avvia prima Ollama: il programma userà un modello piccolo già installato (per esempio llama3.2:3b o qwen2.5:3b) per misurare la velocità reale. Se non ne hai, aggiungi l'opzione --pull e ne scaricherà uno da circa 2 GB. Senza Ollama il test funziona lo stesso, con velocità stimate.
Opzione 2 · Dal codice sorgente
Serve Python 3.10 o successivo. È la strada giusta per i Mac con processore Intel, per Linux su ARM o se preferisci leggere il codice prima di eseguirlo.
git clone https://github.com/gaulin-ai/gaulin-ai-check.git
cd gaulin-ai-check
python3 -m venv .venv
source .venv/bin/activate # Windows: .venv\Scripts\activate
pip install -r requirements.txt # wgpu, numpy e psutil: tutti opzionali
python -m aicheckLe tre librerie sono facoltative: senza wgpu il programma salta il benchmark della GPU e stima le prestazioni dalla scheda tecnica, senza numpy non misura la banda della RAM.
Opzioni da riga di comando
| Opzione | A cosa serve |
|---|---|
| --pull | Se in Ollama non c'è un modello adatto al test, scarica llama3.2:3b (circa 2 GB). |
| --ollama-model qwen3:8b | Usa un modello specifico per il test reale. |
| --no-bench | Salta il benchmark della GPU. |
| --no-ollama | Salta il test con Ollama. |
| --out cartella | Salva il report nella cartella indicata. |
| --no-open | Non apre il report nel browser (utile sui server senza interfaccia grafica). |
Su un server raggiungibile solo via SSH, per esempio: ./gaulin-ai-check-linux-x86_64 --no-open --out ~/report, poi copia il file HTML sul tuo computer per leggerlo.
Come compilare l'eseguibile
Gli eseguibili si creano con PyInstaller, che impacchetta Python e le librerie in un unico file. PyInstaller non fa compilazione incrociata: ogni eseguibile va creato sul sistema a cui è destinato.
git clone https://github.com/gaulin-ai/gaulin-ai-check.git
cd gaulin-ai-check
python3 -m venv .venv
source .venv/bin/activate # Windows: .venv\Scripts\activate
pip install -r requirements-dev.txt # dipendenze + pytest + PyInstaller
python -m pytest -q tests # verifica l'analisi su configurazioni simulate
python build.py # crea dist/gaulin-ai-check-<sistema>-<architettura>Il risultato è un file tra 25 e 50 MB, a seconda del sistema, nella cartella dist/, con il benchmark WebGPU incluso. Prima di distribuirlo conviene una prova rapida: ./dist/gaulin-ai-check-* --no-bench --no-ollama --no-open.
Compilare per tutti i sistemi con GitHub Actions
Il progetto contiene già il workflow .github/workflows/build.yml. A ogni push GitHub esegue i test e compila per Linux, Windows e macOS Apple Silicon in un paio di minuti; gli eseguibili si scaricano dalla sezione Artifacts della build. Pubblicando un tag di versione, i tre file finiscono automaticamente in una release:
git tag v0.1.0
git push --tagsSu una copia (fork) del progetto il workflow funziona allo stesso modo. Per distribuire gli eseguibili senza gli avvisi di sicurezza servono un certificato di firma del codice per Windows e la notarizzazione Apple per macOS.
Come vengono calcolate le velocità
Quando un LLM scrive una risposta, per ogni parola deve leggere dalla memoria tutti i suoi pesi. Per questo la velocità dipende soprattutto dalla banda di memoria della GPU, più che dalla sua potenza di calcolo.
tempo per token = dati letti per token / banda effettiva + costo fisso per tokenDa dove arrivano i numeri
- Banda effettiva: quella misurata dal benchmark; senza benchmark, l'80% del valore di scheda tecnica.
- Costo fisso: ricavato dal test reale con Ollama, altrimenti un valore prudente.
- Memoria: pesi del modello più la memoria del contesto (8.192 token) e circa 0,8 GB per il motore di calcolo.
I casi particolari
- Modelli MoE: occupano memoria per tutti i parametri, ma per ogni token ne leggono solo una parte, quindi sono più veloci.
- GPU + RAM: la parte del modello che non entra in GPU viene letta alla velocità della RAM.
- Mac e GPU integrate: la memoria è condivisa; su Apple la GPU può usarne il 67–75%.
Quanto è preciso. Su un portatile con RTX 3050, dopo la calibrazione su Llama 3.2 3B, la stima per Qwen 2.5 3B è stata di 52,0 token al secondo contro i 50,2 misurati. In generale considera i valori indicativi (±25%): dipendono da driver, versione del software e impostazioni. Per scegliere il modello in base alla qualità, vedi il confronto dei modelli LLM open source e la tabella memoria GPU → modelli.
Domande frequenti su Gaulin AI Check
Sì. Lo puoi scaricare e usare gratuitamente, e il codice sorgente è pubblico su GitHub: puoi leggerlo, compilarlo da solo e verificare cosa fa.
No. Tutte le misure avvengono in locale e il report resta sul tuo computer. L'unica connessione possibile è verso Ollama, sul tuo stesso computer, e solo con l'opzione --pull il programma scarica un modello dal registro di Ollama.
Sì. Senza GPU dedicata misura la banda della RAM e valuta quali modelli girano sul processore. Di solito il risultato è "Uso di base": adatto a prove con modelli piccoli, non a un servizio aziendale.
Sì. Il benchmark usa WebGPU, che funziona con Vulkan, Metal e DirectX 12, quindi con qualsiasi marca. Su NVIDIA la banda di memoria viene letta dal driver; su AMD, Intel e Apple Silicon arriva da un database integrato di schede e chip. Il report indica anche quali framework sono compatibili con la tua GPU, per esempio MLX solo su Mac e vLLM soprattutto su Linux con NVIDIA.
Perché gli eseguibili non sono ancora firmati con un certificato digitale. Su Windows scegli "Ulteriori informazioni" e poi "Esegui comunque"; su macOS vai in Impostazioni di Sistema → Privacy e sicurezza → "Apri comunque". Se preferisci, puoi compilare il programma da solo dal codice sorgente.
No, ma lo rende più preciso. Senza Ollama le velocità sono stimate dal benchmark della GPU; con Ollama attivo il programma misura un modello vero e usa quel dato per correggere tutte le stime.
Hai il report?
Ti diciamo cosa farci
Inviaci il file HTML: in 30 minuti ti spieghiamo quali applicazioni AI può ospitare il tuo hardware e, se serve, quale server scegliere.
Richiedi una valutazione del progetto →