Il procuratore capo di San Francisco, David Chiu, ha inviato il 17 luglio 2026 lettere di diffida ad Apple e Google, chiedendo la rimozione dai rispettivi store di una serie di app cosiddette "nudify", capaci di generare immagini intime false e non consensuali. Le app finite sotto accusa sono 13: otto presenti sull'App Store di Apple e cinque sul Play Store di Google.
Molte di queste applicazioni si presentano al pubblico come innocui strumenti di "face-swap" o scambio di volti, ma una volta utilizzate consentono di creare deepfake a sfondo sessuale, spesso ai danni di donne e ragazze inconsapevoli.
L'accusa: gli store hanno guadagnato dalle app
Nelle lettere, secondo quanto riportato, Chiu sostiene che sia Apple sia Google abbiano "tratto profitto da questa tecnologia dannosa", avendo "probabilmente incassato milioni di dollari in commissioni" dalle app di nudificazione. Il procuratore chiede alle due societa' di smettere di "favorire e agevolare" la diffusione di immagini intime non consensuali e di interrompere ogni rapporto con gli sviluppatori coinvolti.
L'iniziativa nasce da un'indagine dell'ufficio del City Attorney, che ha esaminato le 13 applicazioni e il modo in cui vengono pubblicizzate: quasi sempre con un linguaggio ambiguo che nasconde, dietro la promessa dello "scambio di volti", la reale funzione di spogliazione virtuale.
Le risposte di Apple e Google
Un portavoce di Apple ha ricordato che le app di nudificazione sono vietate sull'App Store e ha aggiunto: "Abbiamo rimosso tre delle app in questione e siamo in procinto di chiudere gli account degli sviluppatori dal nostro programma". Google, da parte sua, ha dichiarato che tutte e cinque le app segnalate nella lettera di Chiu erano state sospese dal Play Store.
Le reazioni, arrivate in poche ore, mostrano come la pressione delle autorita' locali possa produrre effetti rapidi. Restano pero' le domande su quante applicazioni simili continuino a circolare e su come vengano ripubblicate con nomi diversi dopo ogni rimozione.
Un problema che le leggi inseguono
La vicenda si inserisce in un dibattito ormai globale sull'abuso dell'IA generativa per creare immagini sessuali non consensuali, un fenomeno che colpisce in larga misura minori e donne. Negli Stati Uniti la legislazione ha iniziato a muoversi, ma la velocita' con cui questi strumenti compaiono, cambiano nome e riappaiono rende difficile un contrasto efficace basato solo sulle rimozioni caso per caso.
Un danno che colpisce soprattutto le piu' giovani
Il fenomeno delle immagini intime false generate con l'IA ha una dimensione che va ben oltre le 13 app diffidate. Negli ultimi due anni, scuole e forze dell'ordine di diversi Paesi hanno segnalato un aumento di casi in cui adolescenti hanno usato queste applicazioni per creare e diffondere finte foto di nudo di compagne di classe. Per le vittime le conseguenze sono reali e pesanti — dal cyberbullismo all'impatto psicologico — anche quando l'immagine e' palesemente artificiale, perche' a contare e' la sua circolazione. E' proprio la facilita' d'uso di questi strumenti, spesso presentati come giochi innocui di "scambio volti", ad averne allargato la platea ben oltre gli ambienti tecnici.
L'azione di San Francisco punta proprio a spostare la responsabilita' a monte, sugli store che distribuiscono le app e ne incassano le commissioni. Se il modello dovesse essere seguito da altre giurisdizioni, per Apple e Google potrebbe profilarsi una revisione piu' severa dei criteri di ammissione, soprattutto per le app che sfruttano l'IA per la manipolazione delle immagini.
