Eseguire un modello linguistico direttamente sul proprio computer, senza mandare nulla nel cloud, e' oggi alla portata di chiunque. LM Studio e' l'applicazione che rende la cosa piu' semplice: un'interfaccia grafica per cercare, scaricare ed eseguire modelli open source come Llama, Qwen, DeepSeek, Mistral e Gemma, con in piu' un server locale compatibile con le API di OpenAI. In questa guida vediamo come installarlo e usarlo davvero, dalla prima chat fino all'integrazione in Python.

A chi serve e perche' usare l'IA in locale

LM Studio e' utile a chi vuole privacy (i dati non lasciano il computer), a chi lavora offline o con documenti riservati, a chi vuole azzerare i costi delle API a consumo e agli sviluppatori che vogliono sperimentare con modelli diversi senza pagare per ogni token. Rispetto a Ollama, che e' orientato alla riga di comando, LM Studio offre un'interfaccia visuale piu' accogliente per chi parte da zero, pur avendo anch'esso strumenti da terminale.

Requisiti hardware: cosa serve davvero

Il punto piu' importante da capire: i modelli locali sono impegnativi per la memoria. Come regola pratica:

  • 8 GB di RAM: puoi far girare modelli piccoli (3-4 miliardi di parametri) quantizzati, adatti a compiti semplici;
  • 16 GB di RAM: modelli da 7-8 miliardi di parametri con buona qualita', il punto di equilibrio per la maggior parte degli utenti;
  • 32 GB o piu': modelli da 14-32 miliardi di parametri, risposte piu' accurate;
  • una GPU dedicata (NVIDIA con diversi GB di VRAM) o un Mac con chip Apple Silicon (M1/M2/M3/M4) accelera enormemente la generazione.

I modelli sono distribuiti in formato GGUF, ottimizzato per l'esecuzione su CPU e GPU di consumo, e in diverse quantizzazioni: versioni compresse che riducono l'occupazione di memoria a scapito di un po' di qualita'. Le sigle come Q4_K_M indicano proprio il livello di compressione: piu' il numero e' basso, piu' il modello e' leggero ma meno preciso.

Passo 1: scaricare e installare LM Studio

  1. Vai su lmstudio.ai e scarica la versione per il tuo sistema operativo: Windows, macOS (Apple Silicon o Intel) o Linux.
  2. Installa l'applicazione come qualsiasi altro programma e avviala.
  3. Al primo avvio LM Studio ti guida con una schermata di benvenuto. L'interfaccia principale ha una barra laterale con la ricerca dei modelli, la chat e il server locale.

Passo 2: scaricare il primo modello

  1. Apri la sezione di ricerca (icona della lente) e cerca un modello, ad esempio "Qwen" o "Llama 3".
  2. LM Studio mostra le varie versioni e quantizzazioni disponibili, con l'indicazione se il modello e' compatibile con la tua memoria (una spia verde segnala quelli che il tuo computer regge).
  3. Scegli una quantizzazione Q4_K_M per iniziare: e' un buon compromesso tra qualita' e leggerezza. Clicca su Download e attendi (i file vanno da 2 a diversi GB).
LM Studio segnala quali modelli e quantizzazioni il tuo hardware puo' eseguire. Immagine: Pexels.

Passo 3: la prima chat in locale

  1. Vai nella sezione Chat.
  2. In alto seleziona il modello appena scaricato: LM Studio lo carica in memoria (puo' richiedere qualche secondo).
  3. Scrivi un messaggio e invia. La risposta viene generata interamente sul tuo computer, senza connessione a internet.

Prova con un prompt come questo per verificare che tutto funzioni:

Spiega in modo semplice, adatto a un ragazzo di 12 anni, la differenza tra memoria RAM e disco fisso. Usa un esempio con una scrivania.

Il risultato atteso e' una spiegazione chiara con la metafora della scrivania (RAM) e del cassetto/archivio (disco). Se la generazione e' molto lenta, hai scelto un modello troppo grande per il tuo hardware: torna al passo 2 e prendine uno piu' piccolo.

Passo 4: attivare il server locale compatibile con OpenAI

Qui LM Studio diventa potente per gli sviluppatori. Puo' esporre il modello come un server locale con API compatibili con quelle di OpenAI, cosi' puoi riusare codice gia' scritto cambiando solo l'indirizzo.

  1. Apri la sezione Developer / Local Server (icona del terminale).
  2. Seleziona il modello e premi Start Server. Per impostazione predefinita ascolta su http://localhost:1234.

Verifica con una chiamata dal terminale:

curl http://localhost:1234/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "local-model",
    "messages": [{"role": "user", "content": "Ciao, chi sei?"}]
  }'

Passo 5: usare il modello locale da Python

Puoi usare direttamente l'SDK di OpenAI puntandolo al server locale. Non serve una chiave reale: ne basta una fittizia.

from openai import OpenAI

client = OpenAI(base_url="http://localhost:1234/v1", api_key="lm-studio")

resp = client.chat.completions.create(
    model="local-model",
    messages=[
        {"role": "system", "content": "Rispondi in italiano, in modo conciso."},
        {"role": "user", "content": "Dammi 3 nomi per un'app di ricette."},
    ],
)
print(resp.choices[0].message.content)

Il risultato atteso e' un breve elenco di tre nomi, generato in locale. Da qui puoi costruire qualsiasi applicazione — un chatbot, uno strumento di riassunto, un piccolo agente — senza costi per token e senza inviare dati a terzi.

Passo 6: migliorare velocita' e qualita' delle risposte

Una volta che tutto funziona, ci sono alcune leve per ottenere il massimo dal tuo hardware. La prima e' l'offload su GPU: nelle impostazioni di caricamento del modello puoi scegliere quanti "layer" spostare sulla scheda grafica. Piu' layer sulla GPU significa generazione piu' veloce, ma serve VRAM sufficiente; se il modello non entra, riduci il numero di layer o passa a una quantizzazione piu' leggera.

La seconda leva e' la lunghezza del contesto (context length): finestre molto ampie consumano piu' memoria. Se non ti serve dare al modello documenti lunghi, tenere il contesto su valori contenuti libera RAM e velocizza tutto. La terza riguarda i parametri di generazione: abbassare la temperatura (per esempio a 0,2-0,4) rende le risposte piu' precise e ripetibili, ideali per compiti tecnici; alzarla le rende piu' creative ma meno affidabili.

Infine, scegli il modello in base al compito e non solo alla dimensione: esistono modelli specializzati nel coding (ottimi per generare e spiegare codice), modelli piccoli ma addestrati per il ragionamento, e modelli generalisti per la conversazione. Un modello da 7-8 miliardi di parametri ben scelto batte spesso, sul suo compito, un modello generico piu' grande ma lento.

Errori comuni e soluzioni

  • La generazione e' lentissima: modello troppo grande. Scegli meno parametri o una quantizzazione piu' spinta (Q4 invece di Q8), oppure abilita l'offload su GPU nelle impostazioni del modello.
  • "Failed to load model" / memoria insufficiente: chiudi altre applicazioni o passa a un modello piu' piccolo; la spia di compatibilita' in fase di download aiuta a evitarlo.
  • Connection refused sulla porta 1234: il server locale non e' avviato. Torna nella sezione Developer e premi Start Server.
  • Risposte di scarsa qualita': i modelli piccoli quantizzati hanno limiti. Per compiti difficili serve un modello piu' grande o, in alternativa, un servizio cloud.

Alternative e quando NON usare il locale

Le alternative principali a LM Studio sono Ollama (piu' orientato alla riga di comando e all'automazione) e Jan (open source, filosofia simile). La scelta dipende dai gusti: LM Studio vince sull'interfaccia grafica, Ollama sull'integrazione da terminale e negli script.

Attenzione pero': l'IA in locale non e' sempre la scelta giusta. Se ti serve la massima qualita' possibile — ragionamento complesso, coding avanzato — i modelli di frontiera in cloud come Claude Opus 5 o GPT-5.6 restano nettamente superiori a cio' che gira su un portatile. Il locale brilla quando contano privacy, costi azzerati e disponibilita' offline; il cloud vince quando conta la potenza pura. Saper scegliere tra i due, caso per caso, e' oggi una competenza pratica preziosa che vale la pena coltivare.