La violenza di genere nell'AI
Secondo il rapporto dell'Organizzazione delle Nazioni Unite per l’educazione, la scienza e la cultura (Unesco) Technology-facilitated gender-based violence in an era of generative AI, l'intelligenza artificiale generativa alimenta la violenza di genere online, amplificando le forme di violenza già esistenti e creandone di nuove.
Il report è curato dalla dottoressa Rumman Chowdhury, pioniera nel campo dell'etica algoritmica applicata, amministratrice delegata e fondatrice dell'organizzazione tecnologica no profit Humane Intelligence, e da Dhanya Lakshmi, ricercatrice e ingegnera specializzata in machine learning, ed è il risultato di una cooperazione intersettoriale tra la Divisione per l'uguaglianza di genere dell'Unesco e la Sezione per la libertà di espressione e la sicurezza dei giornalisti e quella per la pace e lo sviluppo sostenibile; al suo interno, vengono presentati i risultati di esperimenti condotti dalle autrici sui rischi associati alla progettazione e all'uso dell'intelligenza artificiale generativa per alimentare la violenza di genere.
Con l'espressione "intelligenza artificiale generativa" si intendono quei modelli di machine learning basati sull'apprendimento profondo (deep learning) utilizzati per generare voce, immagini e testi – come ChatGPT e Bard. Il rapporto esamina l'AI generativa come strumento potenzialmente in grado di amplificare le principali forme di violenza online comunemente sperimentate da donne e ragazze – discorsi d'odio, molestie informatiche, disinformazione.
Oltre alle conseguenze prodotte dai pregiudizi (bias) contenuti nei dati su cui vengono allenati gli algoritmi di intelligenza artificiale generativa, le autrici del rapporto mettono poi in luce le nuove potenziali minacce associate a questi strumenti, che consentono, ad esempio, la creazione di immagini false (fake media) più realistiche, campagne di molestie automatizzate e "storie sintetiche" (synthetic histories), ovvero la costruzione di narrazioni false perfettamente credibili.
Alla luce dei risultati prodotti dagli esperimenti, il rapporto suggerisce delle misure da adottare per contrastare questo fenomeno, rivolte alle aziende che producono strumenti di AI generativa e a quelle che li distribuiscono, alle autorità politiche e di regolamentazione e anche alle organizzazioni della società civile, a chi fa ricerca e, non da ultimo, alle persone che li usano.
