AI in locale: i modelli aperti sul tuo computer
Quando conviene far girare un modello sul proprio computer o sui server aziendali, quale hardware serve, quali modelli scegliere nel 2026 e come iniziare in dieci minuti con LM Studio o Ollama.
Mattia PanattaAggiornato il 13 ottobre 202612 minAvanzato
In breve
- I modelli a pesi aperti si scaricano e girano sul tuo hardware: nessun dato esce dalla macchina e non paghi a token.
- Il prezzo: meno capacità dei modelli di frontiera, hardware adeguato e un po’ di manutenzione.
- Regola pratica per la memoria: con la quantizzazione a 4 bit servono circa 0,6 GB per miliardo di parametri, più margine per il contesto.
- Per iniziare: LM Studio (grafico, semplicissimo) od Ollama (riga di comando, ideale per automazioni).
Perché farlo (e perché no)
Buoni motivi:
- riservatezza assoluta: documenti di clienti, dati sanitari, segreti industriali che non vuoi o non puoi inviare a terzi;
- costi prevedibili per lavori ad altissimo volume (classificare milioni di documenti);
- funzionamento offline e indipendenza da un fornitore;
- personalizzazione: puoi specializzare il modello sui tuoi dati.
Cattivi motivi:
- “Così è gratis”: l’hardware costa, l’elettricità anche, e il tempo di chi lo gestisce di più.
- “È uguale a ChatGPT”: non lo è. Secondo Artificial Analysis, a ottobre 2026 il miglior modello aperto (MiMo-V2.6-Pro) fa 46 punti contro i 58 di Claude Opus 5.5, e i modelli che entrano in un portatile sono molto più indietro.
Quali modelli esistono
I modelli aperti più forti del 2026 vengono soprattutto dalla Cina e da alcuni laboratori occidentali. Dalla classifica di Artificial Analysis:
| Modello | Indice | Note |
|---|---|---|
| MiMo-V2.6-Pro (Xiaomi) | 46 | Il più capace tra gli aperti; serve hardware da server |
| GLM-5.3 (Z AI) | 45 | Ottimo in ragionamento e codice |
| Kimi K3 (Moonshot) | 44 | Contesto lunghissimo |
| Qwen3.8 (Alibaba) | fino a 40 | Famiglia ampia, anche in versioni piccole (27B) |
| DeepSeek V4.1 Flash | 39 | Veloce ed efficiente |
| Gemma 4 (Google), gpt-oss (OpenAI), Mistral Small 4 | 9-17 | Piccoli: girano su un buon portatile |
I modelli “piccoli” hanno punteggi bassi nei benchmark generali, ma per compiti mirati (riassumere, classificare, estrarre dati, tradurre) spesso bastano.
Leggi la licenza
“Pesi aperti” non vuol dire sempre “uso libero”. Alcune licenze limitano l’uso commerciale o impongono condizioni. Controlla prima di usare un modello in azienda.
Quale hardware serve
Un modello è fatto di parametri, cioè numeri. Per farlo girare devono stare in memoria (meglio se nella memoria della scheda video, o nella memoria unificata dei Mac con chip Apple). Con la quantizzazione a 4 bit, che riduce la precisione dei numeri con una perdita di qualità contenuta, la regola pratica è:
| Dimensione del modello | Memoria indicativa | Dove gira |
|---|---|---|
| 4-8 miliardi di parametri | 4-6 GB | Quasi ogni computer recente |
| 12-14 miliardi | 8-10 GB | Portatile con 16 GB di RAM |
| 27-35 miliardi | 18-24 GB | Mac con 32 GB, PC con scheda video da 24 GB |
| 70-120 miliardi | 45-80 GB | Workstation o Mac con 64-128 GB |
| Oltre 300 miliardi | Centinaia di GB | Server con più GPU |
Molti modelli moderni sono Mixture of Experts (le sigle tipo “35B A3B”): hanno 35 miliardi di parametri ma ne usano 3 per ogni token. Occupano la memoria di un modello grande ma sono veloci come uno piccolo.
Il contesto lungo occupa memoria in più: se vuoi analizzare documenti da centinaia di pagine, prevedi margine.
Iniziare in dieci minuti
Con LM Studio (consigliato per iniziare)
- Scarica LM Studio dal sito ufficiale e installalo.
- Nella sezione di ricerca cerca un modello piccolo (per esempio della famiglia Gemma o Qwen) nella versione quantizzata a 4 bit che il programma indica come compatibile con il tuo computer.
- Scaricalo e apri la chat: funziona come ChatGPT, ma tutto in locale.
- Se vuoi usarlo da altri programmi, attiva il server locale: espone un’interfaccia compatibile con le API di OpenAI.
Con Ollama (per automazioni)
Ollama si usa da terminale: un comando scarica il modello, un altro lo avvia. È perfetto come “motore” per automazioni private, per esempio con n8n installato sullo stesso server: i documenti vengono letti, classificati e riassunti senza mai uscire dall’ufficio.
Un’architettura tipica per uno studio
- Un computer o piccolo server in ufficio con un modello da 20-35 miliardi di parametri.
- Ollama come motore, n8n per i flussi (vedi la guida sulle automazioni).
- Un indice dei documenti interni per le domande (vedi la guida su RAG ed embedding).
- Per i compiti difficili e non riservati, un modello di frontiera via API con contratto business.
È l’approccio ibrido: in locale ciò che è riservato e ripetitivo, nel cloud ciò che richiede la massima intelligenza.
In pratica
- Prova LM Studio con un modello piccolo: in dieci minuti capisci cosa può e non può fare sul tuo computer.
- Valuta l’AI in locale per dati riservati e grandi volumi, non per sostituire del tutto i modelli migliori.
- Calcola il costo vero: hardware, energia, tempo di gestione.
- Controlla sempre la licenza del modello.
Fonti
Contenuto informativo aggiornato alla data indicata. Prezzi, modelli e norme cambiano spesso: verifica sempre sulle fonti ufficiali. Testo scritto con il supporto di strumenti di AI e rivisto dall'autore.
