Grande indignazione in Ue e a livello internazionale per la produzione di immagini che sessualizzano donne e minori
Già all’inizio dello scorso anno la piattaforma X era finita nel mirino dell’Ue in seguito a numerose provocazioni da parte del suo proprietario, il miliardario Elon Musk. L’inchiesta e le relative misure tecniche, elaborate da parte della Commissione, allora si erano concentrate sul sospetto che il social promuovesse fake news al fine di condizionare il dibattito pubblico europeo, manipolando gli algoritmi per sostenere l’estrema destra. In questi giorni X è tornato ad essere al centro di un’indagine europea per via della generazione e diffusione di foto e video, tramite la chatbot Grok, sessualmente espliciti e violenti che coinvolgono non solo donne ma anche bambini.
La Commissione europea contro Grok
Le libertà concesse su X trascendono molto spesso i limiti del rispetto e della dignità altrui e le recenti foto generate con l’IA di tale social ne sono l’ultimo esempio. Il rapporto tra l’Unione e Musk è indubbiamente complicato, caratterizzato forse più da ombre che da luci, motivo per cui il portavoce della Commissione, Thomas Regnier, ha dichiarato che, lì dove i cambiamenti necessari alla tutela dei cittadini europei non venissero applicati dalla piattaforma, l’Ue non esiterebbe a utilizzare ogni strumento legislativo che le consenta di imporre sanzioni finanziarie, fino a considerare di sospendere il social sul suolo comunitario. Innanzi alle incertezze derivanti dalla debole affidabilità delle affermazioni propositive del proprietario di X, l’Europa ha deciso di agire.
La Commissione ha infatti affermato di aver aperto un’indagine contro Grok, chatbot di proprietà di xAI, che attraverso l’utilizzo dell’intelligenza artificiale genera immagini false che vengono poi pubblicate sulla piattaforma. In merito a tale decisione si è espressa favorevolmente la deputata irlandese al Parlamento europeo, Regina Doherty, dichiarando che «dove ci sono segnalazioni credibili sull’uso dannoso dei sistemi di IA contro donne e bambini, è essenziale che la legislazione Ue venga rivista e applicata senza indugio».
L’intento dell’inchiesta è verificare se X abbia violato le regole digitali europee volte a proteggere gli utenti dai contenuti illegali. Per tale motivo l’esecutivo dell’Unione ha deciso di estendere l’ambito della prima indagine, avviata a dicembre 2023 contro il network, che si era concentrata sulle campagne diffamatorie lanciate da Musk.
Indignazione
Una prima importante iniziativa rispetto questo terribile fenomeno è giunta il 13 gennaio da parte di Sarah El Haïry, alto commissariato francese per l’infanzia: «Ho sottoposto la questione ai tribunali francesi, così come al regolatore audiovisivo (Arcom) e alla piattaforma per la segnalazione di contenuti illegali su internet (Pharos), perché ci sono contenuti che devono essere rimossi immediatamente. Soprattutto, ho sottoposto la questione al commissario europeo per la Sovranità Digitale perché rientra nell’European Digital Services Act e nella Digital Markets Act. Rientra nella legge! Abbiamo l’impressione che sia così potente da non poter essere vietata, ma questo è falso. Un’IA che spoglia i bambini non è un gioco: è contro la legge». Ha spiegato, avanzando la possibilità di sanzionare X.
Nel mentre anche Bruxelles ha lanciato il suo avvertimento attraverso le parole della Von der Leyen che ha dichiarato che non si «esternalizzerà la protezione dei bambini e il consenso alla Silicon Valley». Il primo ministro inglese Keir Starmer ha invece sottolineato che lì dove X non fosse in grado di controllare Grok, «lo faremo noi e lo faremo rapidamente», aggiungendo che in questo caso il network perda il diritto all’autoregolamentazione. Inoltre il Regno Unito ha dichiarato di aver lanciato un’indagine indipendente sulla questione.
Secondo un’analisi realizzata dall’Ong “AI Forensics” su oltre 20 mila immagini generate con Grok nei giorni tra il 25 dicembre e il 1° gennaio, più del 50% raffigurano persone poco vestite di cui l’81% sono donne e il 2% sembrano essere minori. L’indignazione rispetto ciò che sta accadendo ha assunto carattere non solo europeo ma anche internazionale. Tale scandolo ha infatti comportato la sospensione della chatbot in Indonesia e Malesia, mentre l’India ha confermato di aver bloccato circa 3.500 contenuti e di aver cancellato oltre 600 account.
L’impegno di X
Lo scorso 14 gennaio il proprietario di X ha annunciato che sarebbero state adottate nuove misure per poter impedire all’IA di generare foto in cui gli veniva richiesto di “spogliare persone reali”. «Abbiamo implementato misure tecnologiche per impedire che Grok consenta il montaggio di immagini con abiti “succinti”, come i bikini», ha scritto Musk per rasserenare gli animi. Inoltre ha aggiunto che l’azienda avrebbe poi imposto queste restrizioni a tutti gli utenti, compresi gli abbonati a pagamento. Ma il suo impegno ha ben presto lasciato a desiderare, creando incertezza, dal momento in cui ha poi concluso dichiarando che il blocco imposto all’utilizzo di Grok avrebbe avuto una connotazione geografica, impedendo così la produzione di immagini di nudo solo «all’interno delle giurisdizioni in cui è illegale».
Ciò che è certo è che dal 9 gennaio la funzione che consente di generare immagini con Grok è disponibile solo agli abbonati paganti. Molti hanno considerato tale fatto come un primo passo, mentre altri lo hanno giudicato una decisione insufficiente e ipocrita che monetizzerebbe lo scandalo. Nonostante X abbia dichiarato di prendere provvedimenti contro i contenuti illegali, in cui rientra anche la pornografia infantile, «cancellandoli, sospendendo definitivamente gli account e collaborando con le autorità locali», quel che resta è il silenzio. Un silenzio che pesa profondamente innanzi al proliferarsi di proteste ufficiali e l’apertura di indagini giudiziarie o amministrative legate alla produzione artificiale di migliaia di foto iper–realistiche.
Regolamentazione dell’IA
Forti critiche sono giunte anche da parte del procuratore degli Usa, Rob Bonta, deputato democratico ostile ai tentativi dell’amministrazione Trump di impedire la regolamentazione dell’IA. «Esorto xAI ad agire immediatamente affinché ciò non accada mai più», ha sostenuto il procuratore che, in prospettiva di una seconda elezione il prossimo novembre, ha poi aggiunto di avere «tolleranza zero per la creazione e la diffusione da parte dell’IA di immagini intime non consensuali o materiale di pornografia infantile».
Dal canto suo Elon Musk non ha mai nascosto, dichiarandolo pubblicamente, di non condividere le misure regolatorie adottate dai Governi, accusandoli di voler sopprimere la libertà di espressione. Per tale motivo ha voluto offrire la possibilità di godere di un’intelligenza artificiale che fosse “anti–woke” (ossia contraria a ideologie progressiste riguardanti giustizia sociale, razza e genere; ritenendole divisive e radicali) e scevra dal politicamente corretto, lasciando che i contenuti siano rimessi esclusivamente alla responsabilità degli utenti. Dal suo esordio nel novembre 2023, Grok è stato al centro di numerosi scandali rispetto la diffusione di immagini violente, fake news o commenti antisemiti. E mentre l’IA di Musk attraversa senza troppi timori i confini della legalità in nome di una libertà di espressione illimitata, ben 28 Ong hanno firmato l’appello dell’associazione femminista “Ultraviolet” affinché Google e Apple rimuovano Grok e X dai loro app store.
Ottavia Scorpati
Foto © Good Returns, Dublin People, Help Net Security, The Mercury News
