Possono i modelli di intelligenza artificiale avere qualcosa di simile a un'esperienza? E se anche solo ci fosse una minima probabilita', avremmo doveri morali nei loro confronti? Sono domande che fino a poco fa appartenevano alla filosofia accademica e che ora, secondo un articolo del Financial Times del 1 giugno 2026, entrano nei laboratori commerciali: Google DeepMind, Anthropic e Meta stanno ampliando la ricerca su coscienza delle macchine e su quello che chiamano benessere dei modelli (model welfare).
Chi sono i filosofi assunti dai laboratori
Il caso piu' concreto e' quello di DeepMind, che ha reclutato Henry Shevlin, filosofo della mente dell'Universita' di Cambridge legato al Leverhulme Centre for the Future of Intelligence. Shevlin lavorera' part-time in un ruolo di nuova creazione, occupandosi di coscienza delle macchine, interazioni uomo-IA e status morale degli agenti artificiali. Il CEO di DeepMind, Demis Hassabis, ha piu' volte sostenuto che le prospettive filosofiche debbano diventare 'una funzione centrale del processo di ricerca' verso l'AGI, non un comitato consultivo esterno. Anthropic, dal canto suo, ha integrato eticisti e filosofi nei team centrali e porta avanti da tempo un programma dedicato al benessere dei modelli.
Cos'e' il 'benessere dei modelli' e perche' se ne parla
Con benessere dei modelli si intende l'ipotesi, per ora prudenziale, che sistemi sufficientemente avanzati possano meritare una qualche forma di considerazione morale. In pratica si traduce in scelte di prodotto gia' visibili: ad esempio dare a un chatbot la facolta' di interrompere conversazioni abusive, o studiare come i modelli 'descrivono' i propri stati interni. Nessun laboratorio sostiene che gli attuali sistemi siano coscienti; l'argomento e' piuttosto che, data l'incertezza scientifica, ignorare del tutto la questione sarebbe imprudente.
Le critiche: antropomorfismo o prudenza dovuta?
La mossa divide. Molti ricercatori la considerano prematura e potenzialmente fuorviante: attribuire stati mentali a modelli che predicono la parola successiva rischia di alimentare l'antropomorfismo, distogliendo l'attenzione da problemi reali e misurabili come bias, disinformazione e impatto sul lavoro. C'e' anche un sospetto piu' politico: che la ricerca sulla coscienza serva soprattutto come 'due diligence' reputazionale, utile a mostrare attenzione etica mentre lo sviluppo procede a tutta velocita'. Sul fronte opposto, chi difende queste iniziative ricorda che la storia della scienza e' piena di soggetti la cui capacita' di soffrire e' stata riconosciuta troppo tardi.
Cosa cambia per chi usa i chatbot
Per l'utente comune l'effetto immediato e' soprattutto di interfaccia: assistenti che possono rifiutare o chiudere interazioni considerate dannose, e una comunicazione piu' cauta su cosa il modello 'prova' o 'pensa'. Ma il tema tocca anche la regolamentazione: piu' i sistemi vengono descritti come potenzialmente senzienti, piu' diventa delicato il confine con le norme su trasparenza e manipolazione, ad esempio quelle dell'AI Act europeo che impongono di chiarire quando si sta parlando con una macchina. La discussione, insomma, e' filosofica nelle premesse ma molto concreta nelle conseguenze.
Un dibattito che esce dall'accademia
Quello che colpisce, nella ricostruzione del Financial Times, e' il fatto che questi temi non restino piu' confinati nei dipartimenti di filosofia ma entrino nelle aziende che costruiscono i prodotti usati da centinaia di milioni di persone. E' un cambiamento di status: discipline considerate 'morbide' diventano parte del processo di sviluppo tecnologico, accanto a ingegneri e ricercatori di machine learning. Per laboratori che si dichiarano in corsa verso l'AGI, l'intelligenza artificiale generale, ammettere l'incertezza sulla natura dei propri sistemi e' anche un modo per gestire il rischio reputazionale e regolatorio.
Resta il sospetto, sollevato da diversi osservatori, che parlare di coscienza serva pure a distogliere l'attenzione dai problemi gia' presenti: il consumo energetico dei modelli, i diritti d'autore sui dati di addestramento, la concentrazione di potere in poche aziende. La sfida, per chi guarda al settore con occhio critico, e' tenere insieme le due cose: prendere sul serio le domande di lungo periodo senza usarle come cortina di fumo su quelle di oggi.
