Meta sta spostando sull'intelligenza artificiale una quota crescente della moderazione dei contenuti su Facebook, Instagram e Threads, e i primi dati raccontano due storie opposte. L'azienda sostiene che, da marzo, i suoi modelli linguistici commettono il 13% di errori in meno rispetto ai moderatori umani nell'applicare le regole, individuando al tempo stesso il 10% di violazioni in piu'. Fuori dai comunicati, pero', si moltiplicano le segnalazioni di utenti che si sono visti cancellare l'account per errore, senza appello.
La posta in gioco e' enorme: parliamo delle piattaforme su cui miliardi di persone comunicano e su cui milioni di piccole imprese costruiscono il proprio giro d'affari.
Il piano: oltre il 90% dei contenuti moderati dall'IA
La direzione e' netta. Meta ha gia' sostituito con modelli linguistici circa meta' delle richieste di moderazione umana e punta a portare quella quota oltre il 90% per alcune categorie di contenuti entro la fine dell'anno. L'obiettivo dichiarato e' duplice: ridurre i costi, tagliando la dipendenza dai fornitori esterni di moderazione, e aumentare la velocita' di risposta, dato che un modello puo' analizzare in un istante un volume di post che richiederebbe eserciti di revisori umani. E' un cambiamento gia' in corso da mesi, non un annuncio isolato: la transizione dai revisori umani ai modelli e' iniziata nel 2025 e sta accelerando trimestre dopo trimestre.
Il rovescio della medaglia: account cancellati per errore
I numeri aggregati nascondono pero' i casi individuali, che possono essere devastanti. La stampa internazionale ha documentato storie come quella di Camille Hanson, che gestiva dal Portogallo un'attivita' di insegnamento dell'inglese con quasi un milione di follower su Instagram: un ban automatico per presunta "frode e inganno" le ha fatto perdere l'intero profilo. Ha fatto ricorso, ma una settimana dopo Meta ha confermato la decisione, comunicandole che tutte le sue informazioni sarebbero state "cancellate in modo permanente". Per chi vive del proprio profilo, un errore dell'algoritmo non e' un fastidio: e' la fine di un'attivita'.
Il problema dello 'shadow banning'
Accanto alle cancellazioni ci sono gli errori piu' silenziosi. Alcuni dipendenti di Meta hanno avvertito che il dispiegamento e' troppo rapido e privo di sufficiente supervisione: la tecnologia continua a rimuovere o nascondere post perfettamente leciti da feed, ricerche per hashtag e algoritmi di raccomandazione, una pratica nota come shadow banning. In questi casi l'utente non riceve una notifica di violazione: semplicemente smette di essere visto, senza capire perche' e senza un errore evidente da contestare. E' la forma di censura piu' difficile da individuare e da correggere.
Il nodo dell'appello quando a decidere e' una macchina
Il cuore della questione non e' se l'IA sia mediamente piu' accurata di un umano — su grandi numeri potrebbe anche esserlo — ma cosa succede quando sbaglia il singolo caso. Un moderatore umano puo' cogliere sfumature, contesto e ironia che un modello fatica a interpretare; soprattutto, un sistema di appello gestito a sua volta da un'IA rischia di trasformare l'errore in una condanna definitiva, senza che nessuna persona riesamini davvero la decisione. La percentuale di errore piu' bassa serve a poco se non e' accompagnata da un percorso di ricorso rapido, umano e trasparente.
Perche' Meta accelera proprio ora
La spinta verso l'automazione ha radici economiche e strategiche. La moderazione umana e' costosa, logorante per chi la svolge — i revisori sono esposti quotidianamente a contenuti violenti e disturbanti — e difficile da scalare su piattaforme che ospitano miliardi di post al giorno. Affidarsi ai modelli linguistici promette di tagliare la spesa per i fornitori esterni e di uniformare l'applicazione delle regole, eliminando la variabilita' del giudizio umano. Ma proprio quella variabilita', in molti casi, e' ciò che permette di distinguere una minaccia reale da una battuta, una denuncia da un'istigazione, un contenuto artistico da uno vietato. Comprimere tutto in una decisione automatica rischia di appiattire le sfumature che rendono la moderazione un lavoro delicato.
Perche' riguarda anche gli utenti e le imprese italiane
Il tema tocca da vicino chi in Italia usa questi social per lavoro: creator, negozi, ristoranti, artigiani che sui profili Instagram e Facebook hanno costruito la propria clientela. Un ban ingiusto, per loro, significa perdere in un istante anni di lavoro e un canale di vendita difficile da ricostruire altrove. La spinta di Meta verso la moderazione automatica si intreccia con il quadro europeo del Digital Services Act, che impone alle grandi piattaforme obblighi di trasparenza sulle decisioni di rimozione e meccanismi di reclamo efficaci: un utente europeo ha diritto a sapere perche' un contenuto e' stato rimosso e a contestare la decisione. La domanda che regolatori e utenti dovranno porsi nei prossimi mesi e' semplice: un sistema che sbaglia "solo" qualche punto percentuale in meno, ma su una scala di miliardi di contenuti, quante attivita' e quante voci legittime rischia di cancellare lungo la strada? E chi risarcisce chi viene travolto per errore da una decisione presa in un millisecondo da una macchina?
