Il 15 luglio Thinking Machines Lab, il laboratorio fondato dall'ex direttrice tecnica di OpenAI Mira Murati, ha rilasciato il suo primo modello: si chiama Inkling ed e' open-weight, cioe' con i pesi scaricabili e modificabili da chiunque. E' una mossa dal forte valore simbolico: mentre OpenAI tiene chiusi i suoi modelli di punta, una delle sue ex figure chiave sceglie la strada opposta, puntando su personalizzazione e basso costo.

Cos'e' Inkling e cosa sa fare

Inkling e' un modello a «mistura di esperti» (mixture-of-experts) con 975 miliardi di parametri totali, di cui pero' ne attiva solo circa 41 miliardi per ogni richiesta: e' il meccanismo che permette a un modello enorme di restare relativamente economico da eseguire, perche' accende solo la porzione di rete necessaria. E' stato addestrato su 45 mila miliardi di token di testo, immagini, audio e video, e ragiona nativamente su tutte e quattro le modalita' in ingresso; in uscita, per ora, produce solo testo, incluso codice, dati strutturati e artefatti formattati.

La stessa azienda ammette che Inkling «non e' il modello piu' potente disponibile oggi», aperto o chiuso che sia. Il suo punto di forza e' l'efficienza: secondo Thinking Machines, per prestazioni di codifica equivalenti consuma circa un terzo dei token rispetto a Nemotron 3 Ultra di NVIDIA. In una collaborazione con il fondo Bridgewater, inoltre, ha ottenuto l'84,7% in test di ragionamento finanziario, battendo alcuni modelli proprietari di punta a un costo di esecuzione stimato circa quattordici volte inferiore. VentureBeat sottolinea anche l'attenzione del laboratorio al basso costo e alla «resistenza alla censura».

Inkling e' un modello MoE da 975 miliardi di parametri con soli 41 miliardi attivi per richiesta.

Come usarlo: API, pesi su Hugging Face e Tinker

Attenzione a un punto pratico: Inkling non gira su un PC di casa. Il checkpoint completo in BF16 richiede un cluster di GPU con almeno 2 terabyte di memoria video aggregata; la versione quantizzata NVFP4 scende a circa 600 GB. Per quasi tutti, quindi, la via naturale e' l'accesso via API. Il modello e' gia' offerto da diversi fornitori di inferenza — tra cui Together AI, Fireworks, Modal, Databricks e Baseten — con interfacce compatibili con lo standard OpenAI.

Un esempio di chiamata in Python, usando un provider compatibile OpenAI (qui Together AI):

pip install openai

from openai import OpenAI

client = OpenAI(
    base_url="https://api.together.xyz/v1",
    api_key="LA_TUA_API_KEY",
)

resp = client.chat.completions.create(
    model="thinkingmachines/Inkling",
    messages=[
        {"role": "user", "content": "Scrivi una funzione Python che calcola i numeri primi fino a N."}
    ],
)
print(resp.choices[0].message.content)

Chi dispone dell'hardware adatto puo' invece scaricare i pesi direttamente da Hugging Face, dove il modello e' pubblicato con licenza Apache 2.0 (uso commerciale libero), nelle varianti thinkingmachines/Inkling (BF16) e thinkingmachines/Inkling-NVFP4 (quantizzata):

pip install -U "huggingface_hub[hf_xet]"
hf auth login
hf download thinkingmachines/Inkling-NVFP4 --local-dir ./Inkling-NVFP4

Il vero cuore della strategia, pero', e' Tinker, la piattaforma di personalizzazione di Thinking Machines: e' li' che le aziende possono mettere a punto (fine-tuning) Inkling sui propri dati. Per usarla basta aggiungere la propria chiave in un file di ambiente (TINKER_API_KEY=...) e seguire il ricettario ufficiale. E' anche il modello di business del laboratorio, che punta a guadagnare non sul modello aperto ma sui servizi di addestramento e su una quota dell'ecosistema di hosting.

Perche' conta e a chi conviene

Inkling non nasce per vincere i benchmark, ma per essere modellato. La scommessa di Murati e' che il futuro non appartenga a un unico modello gigante e generalista, ma a tanti modelli specializzati, addestrati da ciascuna azienda sui propri dati e sui propri casi d'uso. Per chi sviluppa applicazioni, il messaggio e' concreto: un modello aperto, multimodale in ingresso, economico da far girare e liberamente personalizzabile puo' valere piu' di un modello chiuso leggermente piu' bravo ma inaccessibile e costoso. Vale la pena provarlo se si cerca una base su cui costruire un assistente verticale — legale, finanziario, tecnico — senza legarsi a un unico fornitore. Chi invece vuole semplicemente il modello piu' capace «pronto all'uso» per compiti generici, oggi trovera' alternative piu' forti tra i modelli chiusi.