Timnit Gebru, ingegnera informatica, diventa nota quando viene licenziata da Google nel dicembre 2020. Cosa ha fatto per meritare un simile trattamento da un’azienda che sembra coltivare talento e creatività? Da ricercatrice non ha mai smesso di domandarsi quali fossero le criticità del suo mestiere, legato soprattutto alla ormai tanto citata, quanto poco realmente nota, Intelligenza Artificiale. Ha quindi pubblicato uno studio su BERT, un dispositivo di Google, osservando come potesse causare discriminazioni di genere e razziali, criticandone anche il pesante impatto ambientale. L’azienda le ha prima intimato di ritrattare quanto scritto per poi interrompere il suo contratto di lavoro, tentando di screditarla anche sul piano scientifico. Lei, non paga di ciò, ha denunciato le condizioni di discriminazione vissute, nonostante ricoprisse il ruolo di co-responsabile del team di ricerca Ethical AI.
Il dibattito sulla Intelligenza Artificiale è un buon punto da cui partire. Quello che infatti si sta proponendo, soprattutto nell’opinione pubblica, è proprio una potenziale riduzione della complessità attraverso dicotomie che pretendono di dare giudizi definitivi stabilendo se e cosa è buono, se e cosa è dannoso. La questione in realtà è annosa, sono ormai decenni che si discute sulle innovazioni tecnologiche, soprattutto legate a Internet, in termini semplicistici che sminuiscono i pericoli e i benefici del mezzo di comunicazione che ha rivoluzionato la nostra tarda modernità. Uno dei rischi reali, a mio avviso, è continuare a pensare (consciamente o inconsciamente) la rete come virtuale, distinta dalla realtà. Quello che accade su Internet è strettamente connesso alla concretezza delle nostre vite ma deve essere analizzato e compreso, perché sicuramente l’attorcigliarsi delle questioni non è sempre di immediata comprensione e, di conseguenza, non è facile immaginare la risoluzione di problemi, individuando risorse e potenzialità.
Resta incredibile (ma forse non troppo) come nei dibattiti la questione del prezzo pagato da molte persone in termini di sessismo, razzismo e sfruttamento sia ancora sovente trascurata, se non in determinati ambiti o quando, di fronte all’ennesima violenza online, la cronaca lo richiede. Quella che viene definita rivoluzione digitale ha infatti visto il perpetuarsi e il rinnovarsi di forme di violenza di genere e discriminazioni attraverso “l’abbraccio stritolante di patriarcato e capitalismo digitale”, come la vicenda di Gebru ci ha fatto intravedere.
A dare un contributo, di ampio respiro e facile lettura, ci prova Lilia Giugni, ricercatrice e docente presso l’Università di Cambridge, attivista femminista, nel suo libro La rete non ci salverà. Perché la rivoluzione digitale è sessista (e come resistere). Il volume parte dal raccontare cosa è la violenza di genere digitale, connettendola al sistema economico che ne trae profitto, finendo per esplorare l’intero ciclo di produzione delle tecnologie digitali, senza dimenticare il ruolo attivo della politica e l’uso che i singoli politici fanno di mezzi specifici quali i social network. Se le pagine sono ricche di dati, informazioni e di una analisi accurata da una prospettiva femminista e intersezionale, che spiega la connessione tra capitalismo e patriarcato, quello che arricchisce notevolmente e sostiene la parte teorica è il mostrare la materialità della questione, raccontando i corpi dietro lo schermo. Le storie che sono riportate nel libro riguardano singole donne, a volte con i loro nomi reali, altre in forma anonima, casi di violenza di genere che conosciamo bene e altri meno noti, storie di resistenza e di ribellione, di solitudine e di sorellanza. Altre sono storie che raccontano le condizioni di gruppi di donne e non solo che svolgono lavori disumani, a cui non pensiamo mentre usiamo i dispositivi elettronici che accompagnano la nostra quotidianità. Alcune si fa fatica a leggerle perché dolorose e orribili, altre restituiscono forza. Sicuramente avere maggiore consapevolezza di cosa si cela dietro computer e telefoni ci serve per comprendere come l’alleanza tra sistemi di potere ci ponga di fronte a una sfida ardua che richiede una prospettiva femminista raffinata, volta anche alla creazione di un nuovo immaginario e che non si fermi di fronte alla capacità di rigenerazione del patriarcato.
Le principali piattaforme, per esempio, in seguito alla maggiore consapevolezza sulla violenza digitale sono dovute correre ai ripari, adottando linee guida e sottoscrivendo con la Commissione europea un Codice di condotta contro l’incitamento all’odio in rete. Oltre a impegni e promesse non mantenute le aziende social hanno provveduto, con disinvoltura, a una soluzione che mette nuovamente le donne in condizioni di pericolo e violazione dei loro diritti fondamentali. Si parla stavolta di coloro che sono costrette a guadagnarsi da vivere come “moderatrici di contenuti”, come Isabella Plunkett, giovane irlandese che lavora per una impresa intermediaria di Facebook/Meta con il compito di “ripulire” il social network da contenuti indesiderati. In pratica, ogni volta che un contenuto del genere viene postato in rete, c’è una persona come lei che deve cancellarlo, dopo averne passati in rassegna innumerevoli. Questi consistono in commenti scritti che incitano alla violenza e all’odio sessista, razziale e via di seguito, fino a esplicite immagini pedo-pornografiche, video di stupri, quando non riprese di uccisioni o suicidi. Al momento non c’è un software capace di fare questo lavoro meglio di un essere umano. Peccato, che oltre a una paga misera, quello che tante persone come Isabella hanno guadagnato sono disturbi vari tra cui incubi notturni, problemi del sonno, assunzione di antidepressivi. Isabella per svolgere questo lavoro ha anche firmato un accordo di riservatezza. Adesso immaginate cosa ha significato per lei la scelta di esporsi e testimoniare per una inchiesta parlamentare. Ma c’è di più, perché per evitare questo tipo di denunce ed economizzare in senso lato, decine di migliaia di posti di lavoro sono stati ulteriormente subappaltati ad aziende terze ma fuori dall’Europa, ad esempio nelle Filippine. Qui lo staff “può essere obbligato a controllare fino a mille contenuti al giorno, a volte in lingue diverse e con soste al bagno limitate”. Se della composizione di genere di questo lavoro di moderazione digitale abbiamo ancora poche notizie, se ne sa abbastanza per far sì che si prenda consapevolezza che le donne sono molte ed esposte a ulteriori violenze e discriminazioni, basti citare il carico emotivo di dover moderare contenuti dove la maggior parte delle vittime sono donne, ragazze e bambine.
Nessuna pensa che la Rete (o l’Intelligenza Artificiale) siano da combattere o evitare. Certamente non lo pensa Giugni, non lo pensano le femministe in diversi luoghi del mondo che lavorano nell’ambito tecnologico o coloro che combattono per i diritti digitali, ma non lo pensano neppure le donne sfruttate in questo sistema che si organizzano e combattono in vario modo. Ci sono molte azioni legali e sindacali riportate nel libro, azioni di denuncia, iniziative politiche, possibilità creative.
Così come c’è Timnit Gebru, con cui abbiamo aperto, che oggi è fondatrice e direttrice esecutiva del Distributed Artificial Intelligence Research Institute e cofondatrice di Black in AI, un’organizzazione non profit che lavora per aumentare la presenza, l’inclusione, la visibilità e la salute delle persone di colore nel campo dell’intelligenza artificiale. È inoltre nel consiglio di amministrazione di AddisCoder, un’organizzazione non profit che si occupa di insegnare gratuitamente algoritmi e programmazione informatica nelle scuole superiori in Etiopia, paese dal quale proviene.
In sintesi, la Rete va presidiata, come qualunque altro spazio ancora in mano al patriarcato.
Serena Fiorletta in MITICA! Percorsi in relazione in memoria di Paola Masi