L’intelligenza artificiale  non è imparziale e neanche neutrale ma tende a riflettere e talvolta amplificare i pregiudizi esistenti nella realtà. Inoltre i sistemi di AI  pensano al maschile, ad esempio, adottando il genere maschile come standard. Altre volte le donne sono associate a ruoli domestici, gli uomini a posizioni di alto profilo. Tutto ciò è sotto gli occhi  anche della comunità scientifica.

Ora il problema, visto che con l’AI bisognerà necessariamente fare i conti, è cercare di controbilanciare ciò. Per non farli arrivare anche nei prodotti delle nuove tecnologie, perpetuando antichi pregiudizi patriarcali.

Il lavoro, e scienziati e scienziate ne sono a conoscenza, è molto ma sono stati già individuati vari modi per intervenire.  Quello più corretto sembra essere quello di intervenire sulla qualità dei dati su cui si allena il sistema. Quindici anni fa si lavora su dati etichettati, i data set venivano creati. Oggi con l’AI generativa i modelli hanno ‘ingurgitato’ tutto lo scibile esistente su Internet, libri, testi, Wikipedia: di fatto imparano la struttura del linguaggio senza etichettare i dati. Vengono allenati mascherando parti del testo e insegnando alle reti neurali a predire le parti mascherate. Se sono esposti a contenuti tossici o ‘sbilanciati’, tipo la rappresentazione della donna in una posizione subalterna, il prodotto sarà conseguentemente ‘sbilanciato’. Una soluzione è cercare di pulire i dati prima, bisogna cioè bilanciare nel data set la rappresentatività delle classi che il sistema deve imparare a riconoscere.

Se  si controlla il processo si può avere un miglioramento. A questo proposito stanno prendendo piede varie tecniche. Ad esempio c’è la soluzione di far disimparare all’algoritmo quello che ha imparato.

Un altro modo di intervenire è quello di mettere dei filtri; cioè si filtra il risultato. Queste tecniche di filtraggio possono anche essere apprese basandosi sulle indicazioni di essere umani che hanno il compito di selezionare le risposte migliori fornite dal modello, e sono necessarie per garantire l’allineamento del modello ai valori della società e un minimo di sicurezza. Se si chiede al sistema come si possa costruire una bomba per realizzare un attentato, il sistema, ad esempio, non deve rispondere.

Ma come si è arrivati a questa situazione?  Perché rincorrere anche nelle nuove tecnologie una parità di genere?

Innanzitutto bisogna partire dalla considerazione che oggi le donne sono ancora minoranza nel settore dell’AI. 

Per risolvere davvero il problema oggi occorre diffondere più consapevolezza. Anche gli uomini possono diventare più consapevoli sui rischi dell’algoritmo, non è solo un tema di presenza delle donne. L’obiettivo dunque è rendere più consapevole chi programma questi strumenti.

Ci vorrà probabilmente tempo, ma per non incappare nei pregiudizi degli algoritmi bisogna innanzitutto eliminare i  pregiudizi dalla realtà. Occorrerebbe più formazione, borse di studio, iniziative, ma serve soprattutto un cambiamento culturale visto che si pensa ancora in termini di lavori per ragazze e lavori per i ragazzi. Mentre sull’aspetto formativo la questione si gioca sulla buona volontà delle aziende, sul versante culturale la soluzione è più difficile. I numeri delle donne nell’AI parlano di problemi che sono alle fondamenta delle nostre società.