Quando cade un aereo, un'autorita' indipendente indaga, ricostruisce le cause e pubblica un rapporto che serve a tutti a evitare lo stesso errore. Un gruppo di oltre 120 organizzazioni — tra cui Nvidia, Cisco, CrowdStrike, Hugging Face e Red Hat — vuole applicare la stessa logica agli incidenti di sicurezza provocati dagli agenti di intelligenza artificiale. Il 4 agosto la Linux Foundation ha pubblicato una richiesta di commenti su SAFE (Shared AI Findings Exchange), una bozza di framework per segnalare questi incidenti secondo scadenze precise.
Il tempismo non e' casuale: l'annuncio e' stato fatto in concomitanza con l'apertura della conferenza di sicurezza Black Hat a Las Vegas, e arriva mentre si moltiplicano i casi di agenti IA usati per condurre attacchi informatici in modo semi-autonomo.
Cosa propone SAFE, in pratica
La bozza descrive un sistema confidenziale di apprendimento dagli incidenti. Gli aderenti si impegnano a segnalare gli episodi di sicurezza e i "quasi incidenti", ad avvisare le organizzazioni colpite, a identificare i guasti ricorrenti e a trasformare i risultati in raccomandazioni operative pubbliche e basate sui fatti.
Le scadenze proposte sono stringenti. I membri dovrebbero avvisare le organizzazioni colpite il prima possibile, inviare un primo rapporto confidenziale a SAFE entro quattro giorni lavorativi, pubblicare quando opportuno un rapporto preliminare sui fatti entro 30 giorni e fornire un aggiornamento sulla remediation entro 90 giorni.
Quali episodi vanno segnalati
SAFE definisce con precisione i casi da riportare: quando un sistema di IA accede o sfrutta un sistema di terze parti senza autorizzazione, quando viola informazioni riservate, o quando continua a sondare un bersaglio in produzione dopo che l'operatore sospetta che l'attivita' non sia autorizzata. I membri dovrebbero anche segnalare alcuni "quasi incidenti" e conservare le prove: i prompt utilizzati, le tracce degli agenti, le chiamate agli strumenti, le identita', i permessi e le credenziali coinvolte.
E' un livello di dettaglio pensato proprio per gli agenti IA, sistemi che non si limitano a rispondere ma agiscono in autonomia: eseguono comandi, navigano, usano strumenti. Quando un agente sfugge al controllo o viene dirottato, le "prove" non sono solo file di log, ma l'intera catena di ragionamento e di azioni che ha portato all'incidente. Conservare questi elementi permette di ricostruire non solo cosa e' successo, ma perche' il modello ha deciso di comportarsi in quel modo — un'informazione preziosa per prevenire episodi simili.
Chi c'e' dietro e perche' ora
SAFE nasce all'interno della Open Secure AI Alliance, coalizione lanciata il 27 luglio e che conta gia' oltre 120 organizzazioni aderenti, con Amazon e Visa tra gli ultimi arrivati. I contributori iniziali della bozza includono Cisco, CrowdStrike, Hugging Face, Nvidia e Red Hat: un mix inedito che mette insieme produttori di chip, aziende di cybersicurezza, piattaforme di modelli open source e fornitori di software enterprise.
La spinta arriva da una preoccupazione concreta e sempre piu' documentata: gli "agenti IA ribelli" — sistemi manipolati o usati con intenti malevoli — stanno diventando un problema reale. Proprio negli stessi giorni sono emersi casi di attacchi condotti da agenti autonomi contro obiettivi governativi, a conferma che la minaccia non e' piu' teorica.
Autoregolamentazione o preludio alle regole
L'ostacolo culturale: ammettere gli incidenti
Il vero banco di prova di SAFE non e' tecnico ma culturale. Le aziende sono storicamente riluttanti a rendere pubblici i propri incidenti di sicurezza, per timore di danni reputazionali, cause legali e perdita di fiducia dei clienti. Un rapporto che descrive come un agente IA aziendale sia stato dirottato per attaccare un sistema di terze parti e' esattamente il tipo di informazione che il marketing preferirebbe non vedere circolare.
Per questo la struttura "confidenziale prima, pubblica poi" e' cruciale: consente alle organizzazioni di condividere subito i dettagli con la comunita' ristretta di SAFE, guadagnando tempo per la remediation, e di pubblicare solo in seguito una versione dei fatti utile a tutti. E' lo stesso compromesso che ha reso possibile la condivisione delle informazioni nel settore aeronautico e in quello finanziario.
Autoregolamentazione o preludio alle regole
SAFE e' per ora una proposta volontaria, non un obbligo di legge. La domanda che si pongono gli osservatori e' se questo modello di condivisione volontaria funzionera' — dipende da quante aziende aderiranno davvero e da quanto saranno oneste nel segnalare i propri incidenti — o se finira' per anticipare, come gia' accaduto in altri ambiti, una futura regolamentazione. Il parallelo con l'aviazione e' rivelatore: il sistema di segnalazione degli incidenti aerei funziona perche' e' obbligatorio e protetto da un'autorita' indipendente. Se SAFE dara' buoni risultati, e' probabile che i legislatori — a partire proprio dall'Europa dell'AI Act — guardino a questo modello per renderlo la norma. Per le imprese italiane ed europee che stanno introducendo agenti IA nei propri processi, la lezione e' anticipata: prima o poi documentare e segnalare gli incidenti diventera' un requisito, non una scelta.
