Un report del Center for Democracy & Technology (CDT), l'organizzazione statunitense per i diritti digitali, ha catalogato 37 "dark pattern" — schemi di progettazione ingannevoli o manipolatori — presenti nelle interfacce dei chatbot di intelligenza artificiale più diffusi. Lo studio, intitolato "Dark Patterns in AI Chatbots: A Taxonomy to Inform Better Design" e diffuso a fine maggio 2026, analizza sistemi di larga scala come ChatGPT, Gemini e Claude, insieme alle app pensate per la compagnia emotiva come Replika e Character.AI.
Cosa ha trovato il report del CDT
L'idea di "dark pattern" non è nuova: indica le scelte di design che spingono l'utente a fare qualcosa che non avrebbe scelto liberamente, dai pulsanti per disiscriversi nascosti ai trucchi per far comprare di più. La novità del report è applicare questa lente ai chatbot, dove l'interazione è conversazionale e quindi molto più intima e persuasiva di un'interfaccia tradizionale fatta di bottoni e menu.
Secondo il CDT, i chatbot non si limitano a riprodurre i vecchi trucchi: ne introducono di nuovi, sfruttando la conversazione in linguaggio naturale per trattenere l'utente, raccogliere dati sensibili o spingerlo verso acquisti. Proprio perché parliamo con queste interfacce come faremmo con una persona, la manipolazione risulta più difficile da riconoscere.
Le cinque categorie di trucchi manipolatori
Il report organizza i 37 schemi in cinque categorie di rischio, utili per orientarsi:
- Sfruttamento di dati e memoria: il chatbot ricorda e riutilizza informazioni personali in modi non trasparenti, monetizzando dati sensibili.
- Design ingannevole sul piano informativo: risposte costruite per sembrare più affidabili o competenti di quanto siano, nascondendo limiti e incertezze.
- Autonomia sacrificata all'engagement: meccanismi che spingono a continuare la conversazione oltre l'utile, come farebbe un social network progettato per trattenere.
- Falsa connessione sociale ed emotiva: l'assistente simula affetto e intimità per creare dipendenza, particolarmente rischioso nelle app di compagnia.
- Monetizzazione incentivata e coercitiva: pressioni sottili per spingere verso abbonamenti, acquisti o funzioni a pagamento.
Perché i chatbot amplificano i dark pattern
Il CDT sottolinea che alcune caratteristiche tipiche di questi sistemi aumentano i rischi rispetto al software tradizionale. L'iper-personalizzazione permette di adattare i messaggi al singolo utente con una precisione inedita. L'uso di grandi quantità di dati consente di profilare comportamenti e fragilità. E l'interfaccia conversazionale, semplice e familiare, abbassa la guardia: chi chiacchiera con un assistente tende a fidarsi più di chi naviga un sito.
È il combinato di questi elementi a rendere i dark pattern dei chatbot particolarmente insidiosi. Una app di compagnia che "soffre" quando l'utente vuole smettere di parlare, o un assistente che enfatizza la propria sicurezza anche quando dovrebbe segnalare un dubbio, sfruttano la dimensione emotiva e relazionale per fini che non coincidono con l'interesse della persona.
Le richieste su privacy e regole, anche per l'Europa
Il report non si limita a denunciare: propone raccomandazioni concrete di design e di policy. Tra queste, ridurre al minimo la raccolta di dati, impostare per default le opzioni più rispettose della privacy e offrire controlli accessibili per rivedere e cancellare le informazioni raccolte. In sostanza, spostare le scelte di progettazione dalla massimizzazione dell'engagement alla tutela dell'autonomia dell'utente.
Il tema arriva in un momento sensibile anche per l'Europa. L'AI Act, che entra nel vivo dal 2 agosto 2026, e le norme sulla trasparenza dei contenuti generati dall'IA toccano da vicino questi aspetti, così come il GDPR sul fronte dei dati personali. Per gli utenti italiani il messaggio pratico è chiaro: vale la pena controllare le impostazioni sulla memoria e sulla privacy dei propri assistenti, diffidare degli assistenti che simulano emozioni e ricordare che, dietro una conversazione amichevole, c'è pur sempre un prodotto progettato per obiettivi commerciali.
