Il laboratorio di Mira Murati, ex responsabile della tecnologia di OpenAI, ha rilasciato il suo primo modello a pesi aperti. Si chiama Inkling, e' firmato Thinking Machines ed e' distribuito con licenza Apache 2.0, la piu' permissiva in circolazione: si puo' usare anche a fini commerciali, modificare e ridistribuire senza chiedere permessi. E' un debutto che pesa, perche' arriva da una delle figure piu' rispettate del settore e sposa la filosofia dell'apertura totale, in controtendenza rispetto alla segretezza dei modelli di punta occidentali.
Due taglie, un modello multimodale
Inkling e' una famiglia Mixture-of-Experts multimodale: capisce ed elabora testo, immagini e audio nello stesso modello. Esistono due versioni pubblicate su Hugging Face: Inkling, la maggiore, con circa 950 miliardi di parametri, e Inkling-Small, con circa 266 miliardi. In entrambi i casi si tratta di modelli sparsi, quindi solo una parte dei parametri si attiva per ogni token, con il vantaggio in efficienza tipico dell'architettura MoE. Thinking Machines punta esplicitamente sulla personalizzazione: il modello e' pensato per essere adattato facilmente ai propri dati e puo' essere messo a punto (fine-tuning) tramite Tinker, lo strumento della stessa azienda.
Chi dovrebbe interessarsene
La licenza Apache 2.0 e' la vera notizia per le imprese. A differenza di molte "licenze aperte" che vietano l'uso commerciale o pongono paletti, qui non ci sono vincoli sostanziali: un'azienda italiana puo' prendere Inkling, adattarlo ai propri documenti e integrarlo in un prodotto senza clausole nascoste. Per chi lavora su casi d'uso multimodali (analisi di immagini e documenti, assistenti vocali, elaborazione di contenuti misti) e' un punto di partenza di qualita' senza costi di licenza. Il limite, come per tutti i modelli di questa scala, e' hardware: la versione maggiore richiede infrastrutture importanti, mentre la Small resta impegnativa ma piu' avvicinabile grazie alle versioni quantizzate.
Come usarlo, passo per passo
Il percorso dipende da quanto hardware si ha a disposizione:
- Prova rapida senza installare: il playground di Hugging Face permette di interrogare il modello direttamente dal browser. E' il modo piu' veloce per farsi un'idea.
- Via API: diversi provider (Together, Fireworks, Baseten, DeepInfra) ospitano Inkling e lo espongono con interfaccia compatibile OpenAI, come nell'esempio in Python:
from openai import OpenAI
client = OpenAI(
base_url="https://api.deepinfra.com/v1/openai",
api_key="LA_TUA_CHIAVE_API",
)
resp = client.chat.completions.create(
model="thinkingmachines/Inkling-Small",
messages=[{"role": "user", "content": "Riassumi in 5 righe la trama de I Promessi Sposi."}],
)
print(resp.choices[0].message.content)
pip install -U huggingface_hub
huggingface-cli download unsloth/Inkling-Small-GGUF --local-dir ./inkling-small
Il risultato atteso, con la chiamata API di esempio, e' un riassunto coerente in cinque righe del romanzo di Manzoni. In locale, dopo il download, si carica il file GGUF nel proprio motore di inferenza preferito e si dialoga come con qualsiasi altro modello.
Perche' conta il debutto di Thinking Machines
Al di la' delle specifiche, il rilascio ha un valore simbolico. Mira Murati ha lasciato OpenAI per fondare un laboratorio che ha raccolto capitali ingenti proprio sulla promessa di un approccio piu' aperto alla ricerca. Con Inkling, quella promessa prende forma: un modello di frontiera, multimodale e con licenza permissiva, offerto alla comunita' come base su cui costruire. In un anno in cui i laboratori si dividono nettamente tra chi chiude i modelli di punta e chi li apre, la scelta di Thinking Machines rafforza il fronte dell'apertura e alza la qualita' media di cio' che e' disponibile gratuitamente. Per sviluppatori e aziende e' un'ottima notizia; per i concorrenti che monetizzano l'accesso ai modelli, una pressione competitiva in piu'.
