Far girare un modello linguistico sul proprio computer, senza abbonamenti, senza inviare dati a nessuno e persino offline, è oggi alla portata di chiunque abbia un PC recente. Lo strumento più semplice per riuscirci è LM Studio, un'applicazione gratuita con interfaccia grafica che scarica, gestisce ed esegue modelli aperti, e che all'occorrenza li trasforma in un server API compatibile con OpenAI. Questa guida ti porta dall'installazione al primo dialogo, fino a usare il modello dal tuo codice.

A chi serve e cosa ti serve prima di iniziare

Questa guida è pensata per chi vuole un assistente IA privato — per lavorare su documenti riservati, per sviluppare senza costi a consumo, o semplicemente per curiosità tecnica. Non servono competenze di programmazione per i primi passi. I prerequisiti reali sono:

  • Sistema operativo: Windows 10/11, macOS (Apple Silicon M1 o superiore consigliato) o Linux.
  • Memoria: almeno 8 GB di RAM per i modelli piccoli (3-4 miliardi di parametri); 16 GB per modelli da 7-8 miliardi; 32 GB o più per modelli grandi.
  • Spazio su disco: da 2 a 15 GB per modello scaricato.
  • Una GPU dedicata (Nvidia, o la GPU integrata dei Mac Apple Silicon) accelera molto, ma non è obbligatoria: si può girare anche solo su CPU, più lentamente.

Quale modello scegliere per il tuo hardware

LM Studio usa modelli in formato GGUF, ottimizzati per l'esecuzione locale e disponibili su Hugging Face. La scelta dipende dalla RAM:

  • PC modesto (8 GB): un modello da 3-4 miliardi di parametri, come le versioni piccole di Qwen o Llama, in quantizzazione Q4.
  • PC intermedio (16 GB): un modello da 7-8 miliardi, ottimo compromesso tra qualità e velocità (ad esempio Qwen2.5-7B-Instruct o Llama 3.1 8B).
  • PC potente (32 GB+ e GPU): modelli da 14-32 miliardi, o le distillazioni di ragionamento di DeepSeek.

La sigla della quantizzazione (Q4, Q5, Q8) indica quanto il modello è «compresso»: Q4 occupa meno memoria ed è più veloce, Q8 è più fedele ma più pesante. Per iniziare, Q4_K_M è il compromesso migliore.

Con LM Studio il modello gira interamente sul tuo computer, anche senza connessione.

Procedimento passo per passo

  1. Scarica LM Studio dal sito ufficiale lmstudio.ai e installalo come una normale applicazione (trascina l'icona su macOS, esegui il file .exe su Windows).
  2. Cerca un modello: apri la scheda di ricerca (icona della lente), digita ad esempio Qwen2.5 7B Instruct e osserva le varianti disponibili. LM Studio ti segnala con un'etichetta se un modello «entra» nella tua memoria.
  3. Scarica la variante consigliata in quantizzazione Q4_K_M e attendi il completamento (alcuni GB).
  4. Carica il modello: vai nella scheda Chat, seleziona il modello scaricato in alto e attendi che venga caricato in memoria.
  5. Dialoga: scrivi il tuo primo messaggio. Se hai una GPU, in Impostazioni puoi aumentare i «GPU layers» per spostare parte del carico sulla scheda video e andare più veloce.

Un prompt di prova per verificare che tutto funzioni:

Sei un assistente esperto. Spiega in tre frasi semplici, adatte a un principiante, che cos'e' la memoria RAM di un computer e perche' conta quando si esegue un modello IA in locale.

Il risultato atteso è una risposta breve e chiara in italiano, generata interamente sul tuo computer: puoi persino staccare la connessione a internet e continuare a chattare.

Trasformare LM Studio in un server API

Qui la guida diventa più avanzata e davvero utile per chi sviluppa. LM Studio può esporre il modello come un server locale compatibile con le API di OpenAI: significa che qualunque codice scritto per OpenAI funziona puntandolo al tuo computer, a costo zero e senza far uscire i dati.

  1. Vai nella scheda Developer (o «Local Server») e premi Start Server. Il server parte di norma su http://localhost:1234.
  2. Verifica dal terminale che risponda:
curl http://localhost:1234/v1/models

Poi interrogalo esattamente come faresti con OpenAI, cambiando solo l'indirizzo di base:

from openai import OpenAI
client = OpenAI(base_url="http://localhost:1234/v1", api_key="lm-studio")

r = client.chat.completions.create(
    model="local-model",
    messages=[
        {"role": "system", "content": "Rispondi sempre in italiano, in modo conciso."},
        {"role": "user", "content": "Riassumi in 3 punti i vantaggi di eseguire un LLM in locale."}
    ],
    temperature=0.7,
)
print(r.choices[0].message.content)

Il risultato atteso è un elenco di tre punti — tipicamente privacy, assenza di costi a consumo e funzionamento offline — prodotto dal modello che gira sul tuo PC.

Un caso d'uso reale: analizzare un testo in privato

Il vantaggio più tangibile del locale è poter dare in pasto al modello documenti riservati senza che escano dal tuo computer. Immagina di dover riassumere un contratto o degli appunti di lavoro: puoi incollare il testo direttamente nella chat di LM Studio con un'istruzione precisa, e ottenere il risultato senza inviare nulla a un server esterno. Un esempio di prompt operativo:

Di seguito trovi il testo di un verbale di riunione. 1) Riassumilo in massimo 5 punti. 2) Elenca separatamente le decisioni prese e i compiti assegnati, indicando dove possibile il responsabile. 3) Segnala eventuali punti rimasti in sospeso. Ecco il testo: [incolla qui il verbale]

Il risultato atteso è un riassunto strutturato con decisioni e compiti separati: tutto elaborato in locale. Con i modelli da 7-8 miliardi di parametri la qualità su questo tipo di compiti è già più che sufficiente per un uso quotidiano, e la finestra di contesto tipica (diverse migliaia di token) permette di incollare testi anche lunghi. Per documenti molto estesi o per interrogare interi archivi di PDF, il passo successivo è costruire un sistema RAG, ma per singoli testi la chat diretta basta e avanza.

Come ottimizzare velocità e qualità

Due manopole fanno la differenza. La prima è il numero di GPU layers: se hai una scheda video, aumentarlo sposta più calcolo sulla GPU e accelera nettamente la generazione; se il modello non entra nella memoria video, riducilo finché smette di dare errori. La seconda è la lunghezza di contesto (context length): valori più alti permettono conversazioni e documenti più lunghi ma consumano più memoria, quindi conviene tenerla al minimo necessario. Un ultimo consiglio: la temperatura controlla la creatività delle risposte — bassa (0,2-0,4) per compiti precisi come estrazione di dati e codice, più alta (0,7-0,9) per la scrittura creativa.

Errori comuni e come risolverli

  • «Failed to load model / out of memory»: il modello è troppo grande per la tua RAM. Scarica una quantizzazione più bassa (da Q8 a Q4) o un modello con meno parametri.
  • Risposte lentissime: stai girando solo su CPU. Aumenta i «GPU layers» nelle impostazioni se hai una scheda video, oppure scegli un modello più piccolo.
  • Il codice non si connette al server: controlla che il server sia avviato, che la porta sia 1234 e che base_url finisca con /v1.
  • Il modello risponde in inglese: aggiungi un messaggio di sistema che impone l'italiano, come nell'esempio sopra.

Alternative e quando non usare LM Studio

LM Studio è la scelta più semplice per chi vuole un'interfaccia grafica. Le principali alternative sono Ollama (più orientato alla riga di comando e all'automazione), Jan (open source e simile per filosofia) e llama.cpp (il motore sottostante, per chi vuole il massimo controllo). Quando non conviene il locale? Se ti serve la massima qualità assoluta su compiti complessi, i modelli di frontiera in cloud restano avanti; e se non hai hardware adeguato, un modello troppo compresso darà risposte deludenti. Ma per privacy, costi e apprendimento, avere un'IA che gira interamente a casa propria è oggi una delle cose più utili che si possano imparare a fare. Per approfondire, la documentazione ufficiale di LM Studio spiega server, parametri e integrazioni.