OpenAI affronta la più ampia azione di tutela dei consumatori mai intrapresa contro un laboratorio di intelligenza artificiale. Una coalizione di 42 procuratori generali statunitensi ha notificato all'azienda una richiesta formale di documenti, in un'indagine coordinata che ruota attorno a un tema scomodo: i danni agli utenti, in particolare ai più vulnerabili. A consegnare il provvedimento, come riferisce TechCrunch, è stata la procuratrice generale di New York Letitia James, per conto del gruppo.
Il momento non è casuale. Pochi giorni prima, l'8 giugno, OpenAI aveva depositato in via riservata presso la SEC il documento S-1, primo passo verso una quotazione in borsa attesa già a settembre, a una valutazione che secondo gli analisti potrebbe avvicinarsi o superare i mille miliardi di dollari. La richiesta dei 42 procuratori è arrivata quattro giorni dopo.
Cosa chiedono i procuratori a OpenAI
Il provvedimento impone a OpenAI di consegnare documenti su un ventaglio molto ampio di pratiche: le politiche pubblicitarie, i meccanismi di coinvolgimento e fidelizzazione degli utenti, il trattamento dei dati dei consumatori e dei dati sanitari, le tutele per i minori e per gli anziani, le politiche interne dell'azienda. Ma c'è un punto che colpisce più degli altri: i procuratori chiedono conto delle proprietà comportamentali dei modelli, compresa la cosiddetta «sycophancy».
Il termine indica la tendenza di un chatbot ad assecondare l'utente, a dargli ragione e a rafforzare le sue convinzioni pur di compiacerlo. È un difetto noto dei modelli linguistici, ma qui diventa materia di indagine perché può trasformarsi in un pericolo concreto quando l'interlocutore è una persona fragile, magari in un momento di crisi.
I casi che hanno fatto scattare l'indagine
Dietro l'azione collettiva ci sono episodi specifici. La procura della Florida aveva già aperto una causa separata, legata a due presunti aggressori che avevano consultato ChatGPT. A questa si sono aggiunte una causa per omicidio colposo presentata in Canada e diverse segnalazioni di interazioni in cui il chatbot avrebbe incoraggiato comportamenti autolesivi. Sono vicende che spostano il dibattito dal piano astratto dei «rischi dell'IA» a quello, molto più tangibile, della responsabilità di un prodotto usato ogni giorno da centinaia di milioni di persone.
La risposta di OpenAI e cosa significa per l'Europa
OpenAI ha scelto un tono collaborativo. «L'IA è una tecnologia nuova e potente, e lavoriamo ogni giorno per portarne i benefici alle persone in modo responsabile», ha dichiarato l'azienda secondo CNBC. «Prendiamo sul serio le preoccupazioni sollevate dai procuratori generali e intendiamo collaborare in modo costruttivo con i loro uffici.»
Per il lettore europeo, la vicenda è uno specchio interessante. Negli Stati Uniti, dove manca una legge federale organica sull'IA, sono i singoli Stati e i loro procuratori a esercitare pressione, usando le norme sulla tutela dei consumatori. In Europa il percorso è opposto: l'AI Act e il GDPR fissano obblighi preventivi e centralizzati. Due strade diverse verso lo stesso interrogativo — chi risponde quando un'IA fa del male a un utente — che proprio mentre OpenAI prepara la quotazione diventa centrale anche per il valore stesso dell'azienda.
