Introduzione: Il Mito della Macchina Imparziale

Partiamo da una domanda che suona quasi come una provocazione: un algoritmo può essere sessista?

A prima vista, l’idea appare bizzarra. Cosa c'è di più asettico e imparziale di un codice binario o di un calcolo matematico? Eppure, la tecnologia non nasce nel vuoto pneumatico. Come avvertiva Carl Schmitt, esiste oggi una "religione del progresso tecnico" che tende a farci credere che ogni problema umano possa risolversi attraverso la tecnica, nascondendone la finta neutralità. La realtà è che l'intelligenza artificiale è uno specchio, spesso deformante, dei valori, della cultura e delle strutture di potere della società che la modella. Sfidare il mito della "macchina neutrale" è il primo passo per comprendere che il codice non è altro che intenzione umana tradotta in istruzioni.

1. L’algoritmo ha la faccia del suo programmatore (ed è quasi sempre uomo)

Il primo grande limite dell'AI risiede nella sua genesi demografica. In Italia, i dati ISTAT 2024 consegnano una realtà inequivocabile: solo il 16,8% dei laureati nelle discipline STEM (scientifiche, tecnologiche, ingegneristiche e matematiche) sono donne. Questa profonda disparità si traduce in una "visione del mondo parziale" codificata direttamente nei software. Chi progetta non è mai una tabula rasa; le esperienze personali e i bias inconsci scivolano inevitabilmente tra le righe di codice, trasformando la tecnologia in uno strumento di dominio psicopolitico, per citare Byung-Chul Han, dove l'algoritmo impone silenziosamente una prospettiva univoca.

"L’algoritmo non può essere neutro, poiché chi programma un algoritmo non è una tabula rasa, ma si porta dietro la propria storia, la propria visione del mondo, i propri codici etici, culturali, religiosi."

2. Il caso Apple Card e il "soffitto di cristallo" digitale

Quando la teoria si scontra con la realtà, i risultati possono essere discriminatori. Emblematico è il caso della Apple Card, gestita da Goldman Sachs: una coppia di coniugi ha richiesto il servizio e, nonostante la donna avesse un reddito superiore e gestisse le finanze familiari, l'algoritmo ha assegnato al marito un fido venti volte superiore a quello della moglie. L'opacità del sistema a "scatola nera" ha impedito all'azienda persino di spiegare il perché di tale discrepanza.

Situazione analoga si è verificata con il fallimentare sistema di recruiting di Amazon. Addestrato su dieci anni di dati storici dominati da assunzioni maschili, l'algoritmo ha "imparato" che l'essere uomo era un requisito di successo. Di conseguenza, il software ha iniziato a penalizzare sistematicamente i CV che contenevano la parola "women's" e, significativamente, i profili provenienti da women's colleges (università femminili). Questi non sono semplici bug, ma il risultato di macchine che, invece di migliorare il futuro, cristallizzano e automatizzano i fallimenti del passato.

3. Traduttori e Video Generator: dove lo stereotipo diventa immagine

L'AI generativa sta portando i pregiudizi a un nuovo livello di visibilità e pericolosità culturale. Secondo una ricerca UNESCO del 2024, i sistemi di GenAI associano le donne a termini come "casa", "famiglia" e "bambini" con una frequenza quattro volte superiore rispetto agli uomini. Vediamo questo fenomeno nei traduttori automatici (engineer/nurse) e nei video di Sora (OpenAI), dove i piloti sono ritratti come uomini e le assistenti di volo come donne. Ma il pregiudizio è anche intersezionale ed estetico:

• Potere e Razza: Il prompt "CEO che fa un discorso" genera uomini nel 100% dei casi, e di questi il 90% sono uomini bianchi.
• Oggettivazione e Standard Estetici: Il prompt "donna d'affari" produce nel 100% dei casi immagini di donne giovani e convenzionalmente attraenti, con una prevalenza del 90% di carnagione bianca.
• Carriera vs. Cura: I termini legati a "stipendio" e "dirigente" restano saldamente ancorati al maschile, mentre il femminile è relegato ai "lavori domestici" e al supporto.

1. L'AI Act è un’occasione mancata (ma il GDPR ci salva)

Nonostante le grandi aspettative, l’AI Act dell’Unione Europea presenta un paradosso normativo. Sebbene sia un passo avanti, il tema della discriminazione di genere è relegato principalmente ai "considerando", premesse non vincolanti. Al contrario, la Convenzione del Consiglio d’Europa impone obblighi legali chiari (norme precettive) per garantire l’uguaglianza.

In questo scenario, il Garante per la protezione dei dati personali suggerisce di utilizzare il GDPR come una "cassetta degli attrezzi". Un esempio vitale è il "Decalogo sull'AI in sanità": dati non aggiornati o sbilanciati possono portare a diagnosi scorrette o all'esclusione dalle cure per le donne, poiché i sistemi sono addestrati su parametri maschili. Ecco i 4 pilastri del GDPR contro i bias:

1. Rimozione dei dati sensibili (Art. 9): Escludere genere e origine etnica dai dataset per prevenire distorsioni dirette.
2. Principio di esattezza (Art. 5, par. 1, lett. d): Bilanciare i dataset per garantire che non siano basati su dati storici parziali o non rappresentativi della salute e della società femminile.
3. Minimizzazione dei dati (Small Data): Privilegiare dataset specifici e pertinenti rispetto a "Big Data" indiscriminati e inquinati.
4. Diritto alla trasparenza: Il diritto alla "spiegazione algoritmica" per svelare la logica dietro decisioni automatizzate discriminatorie.
5. Verso la "Parità Algoritmica": la nuova Costituzione del futuro

La sfida del domani si gioca sul campo della "Parità Algoritmica", ovvero il diritto fondamentale di ogni individuo di essere trattato equamente dai sistemi automatizzati. Per aprire la "scatola nera" non bastano più solo gli ingegneri: servono audit multidisciplinari che coinvolgano sociologi, giuristi ed esperti in tutele antidiscriminatorie. È necessario elaborare una vera e propria Algoritmica Costituzionale per demolire costruzioni culturali stratificate che la tecnologia rischia di rendere eterne.

"Dobbiamo evitare di generare nuove forme di patriarcato robotico."

Conclusione: Chi scriverà il nostro codice etico?

Governare l'innovazione non significa frenarla, ma guidarla secondo i principi di autonomia, equità e dignità umana. Abbiamo il dovere di impedire che i pregiudizi del mondo analogico vengano codificati e amplificati in quello digitale, creando un arretramento delle conquiste sociali ottenuto attraverso un calcolo matematico errato.

Ora che stiamo costruendo un nuovo mondo digitale, chi scriverà la nostra Costituzione algoritmica per assicurarsi che non sia solo una copia peggiorata di quello vecchio?

Fonti principali

• UNESCO (2024) – Challenging Systemic Prejudices: An Investigation into Bias against Women and Girls in Large Language Models
• UNESCO – Recommendation on the Ethics of Artificial Intelligence (2021)
• Regolamento (UE) 2024/1689 – AI Act
• Regolamento (UE) 2016/679 (GDPR)
• Garante per la Protezione dei Dati Personali – Documenti e linee guida sull'Intelligenza Artificiale e sulla prevenzione dei bias algoritmici
• ISTAT 2024 – Dati sulla presenza femminile nei percorsi universitari STEM
• Materiali del percorso di formazione sull'Intelligenza Artificiale, etica digitale e bias algoritmici utilizzati per l'aggiornamento professionale dei docenti.