di Marta Cerioni*
La scorsa settimana il Garante per la protezione dei dati personali ha lanciato un monito sull’utilizzo di servizi che consentono di generare e condividere contenuti a partire da immagini o voci reali, arrivando anche a “spogliare” persone senza il loro consenso. Il tema, peraltro già affrontato a dicembre 2025, si inserisce nel più ampio rapporto tra “Intelligenza Artificiale e discriminazioni di genere” in quanto le donne subiscono maggiormente gli effetti negativi di tale trattamento. Il Garante per la privacy aveva emanato un provvedimento di avvertimento nei confronti degli utilizzatori di tali servizi (creati dall’Intelligenza Artificiale, come Grok, ChatGPT e Clothoff), arrivando persino a un provvedimento di blocco nell’ottobre 2025 per uno di essi. La tutela successiva (anche penale) risulta, infatti, poco efficace poiché la “catena virale” delle condivisioni rende la diffusione del deep fake del tutto incontrollata, in grado di provocare gravi danni alla dignità della persona coinvolta. L’Autorità richiede maggiori poteri di intervento in tali casi, al fine di interdire il collegamento dall’Italia alle citate piattaforme di servizi. Credo sia doveroso unirci a questa istanza. Inoltre, il Garante ha evidenziato come occorra che siano i fornitori di tali servizi in sede di progettazione e sviluppo a creare le app in modo tale da garantire che gli utenti possano utilizzarle nel rispetto della disciplina privacy. Nel caso in questione, invece, le app sono utilizzabili da tutti (compresi minori) inserendo immagini di terzi (donne, solitamente) senza alcun titolo legittimo di utilizzo.
L’occasione consente, pertanto, di riflettere sulla ideazione, progettazione e persino sull’addestramento dei modelli e sistemi di IA. Urge donare effettività sia all’AI Act (in un momento in cui il Digital Omnibus sembra annacquarlo) sia alla legge n. 132 del 2025.
Secondo vari studi casistici, l’output fornito dall’IA talvolta incappa in discriminazioni di genere. Noti sono i casi della Apple card in cui, nonostante la donna esibisse un reddito più alto, riceveva un fido 20 volte inferiore oppure di “Sora” di OpenAI che rappresentava CEO e professori come uomini mentre assistenti, lavoratrici dell’infanzia come donne.
In questo particolare momento in cui l’Intelligenza Artificiale è sempre più utilizzata nelle istruttorie delle Pubbliche amministrazioni e nelle aziende, contribuendo a creare informazioni che sono alla base di decisioni pubbliche e private, occorre che Tutte e Tutti siano sempre più allenati a vedere e riconoscere le eventuali discriminazioni di genere in tali sistemi. Queste sono molto nascoste e perciò molto insidiose. Solo attraverso questa attenta azione di “sentinelle di genere digitali”, potremmo segnalarle e proseguire il percorso verso l’enforcement di autorità di controllo – come quella espressa dal Garante della privacy – e quindi verso una democrazia paritaria in cui l’IA giocherà sempre più un ruolo cruciale di analisi di dati e supporto alle scelte strategiche.
*Professoressa associata di Diritto costituzionale e pubblico presso l’Università Politecnica delle Marche; Direttrice Osservatorio sulla Legalità Economica e i Diritti fondamentali del DIMA-UNIVPM, Avvocata cassazionista