Discriminazioni
algoritmiche

Il tema delle discriminazioni dettate dagli algoritmi sta prendendo sempre più spazio nel dibattito pubblico sul lavoro, sia rispetto all’accesso al mercato del lavoro che alle condizioni contrattuali. In questo processo giocano un ruolo di primo piano i cosiddetti sistemi di workforce analytics, inventati per elaborare i profili delle persone che lavorano aggregando informazioni che vanno oltre gli indicatori presi normalmente in esame nel campo delle risorse umane – come, ad esempio, il titolo di studio e l’esperienza lavorativa.

Nello specifico, questi sistemi servono per fornire a imprese e organizzazioni serie di dati che contengono informazioni sul comportamento tenuto dai dipendenti nella propria vita privata, al di fuori dei luoghi e dei tempi di lavoro. In questo modo, e attraverso software di estrazione dei dati (data mining), le imprese sono in grado di usare tali informazioni, raccolte senza il consenso dell’utente, per fare delle deduzioni relative alla salute, o per verificare, ad esempio, se una dipendente è incinta.

Tali dati possono essere utilizzati per i processi di assunzione, selezionando i candidati più confacenti per il profilo da scegliere, ma possono essere anche usati per gestire i turni di lavoro, facilitando quelle attività che dovrebbero essere eseguite da un individuo.

Tra le “patologie sociali” delle piattaforme si annovera quindi un rischio di discriminazione facilitato proprio dal funzionamento dell’algoritmo. Gli algoritmi, infatti, se guidati da dati imprecisi, parziali o non rappresentativi del fenomeno a cui si applicano, possono produrre risultati non chiari e distorti e condurre a varie forme di discriminazione.

Dall’analisi dei dati Inapp Plus 2021 sui lavoratori e le lavoratrici di piattaforma emerge che questi sono maggiormente uomini, oltre il 75%, e soltanto tra gli occasionali si rileva una quantità leggermente superiore di donne (il 27,5% del totale).[1] Rispetto alle condizioni di lavoro, i dati su questo settore mostrano una scarsa presenza di contratti in forma scritta, ma anche una retribuzione minima oraria e, soprattutto, una disuguaglianza tra uomini e donne e per fasce di età. Infatti, nei lavori di piattaforma solo il 53% delle donne è in possesso di un contrato scritto, rispetto al 74% degli uomini e solo il 55% delle donne ha una retribuzione minima oraria rispetto al 74% della controparte maschile.

Concentrandoci sull’età, si osserva invece che solo un lavoratore su due nella fascia 18-29 anni ha un contratto in forma scritta, lo stesso dato sale a tre su quattro nella fascia 30-49 anni e al 61% in quella dai 50 anni in su. Per i giovani l’esistenza di una retribuzione minima oraria scende al 43%. Quello che è dunque strutturalmente presente e ben noto come distorsione nel mercato formale, “nelle piattaforme viene amplificato proprio perché vengono riproposti ed esasperati i dualismi, in modo che l’algoritmo, che prende le decisioni, generi maggiori performance”.[1]

Guardando al genere, le discriminazioni evidenziate dai dati Plus continuano a emergere, anzi si amplificano. Se invece che sul totale dei lavoratori delle piattaforme ci si concentra infatti solo su quelli i cui compensi sono pagati direttamente dalla piattaforma (tabella 1), si incorre in una possibile discriminazione dettata direttamente dall’algoritmo.

Tabella 1. Presenza di un contratto in forma scritta e di un compenso minimo orario per i lavoratori il cui compenso viene pagato direttamente dalla piattaforma (%)

Fonte: elaborazioni su dati Inapp-Plus, 2021

Le differenze di genere emergono anche per lavoratrici e lavoratori che dichiarano che quella relativa al lavoro in piattaforma è la loro principale attività, o rappresenta una componente essenziale del proprio reddito. Non si tratta dunque di differenze legate a una diversa rilevanza dell’attività lavorativa, per le donne rispetto agli uomini.

Tali evidenze risultano in chiaro contrasto con la legge 128/2019 (conversione con modificazioni del d.l. 101/2019), che riguarda il settore del food delivery, che prevede proprio una forma scritta del contratto per le persone che lavorano nel settore.

La legge introduce infatti un doppio binario regolatorio: da una parte una disciplina settoriale in favore dei rider autonomi, dall’altra, l’estensione della disciplina del lavoro subordinato, tramite un ampliamento della nozione di etero-organizzazione. Questa ultima modifica estende quindi a tutti i lavoratori delle piattaforme e non soltanto ai lavoratori del food delivery, il campo di applicazione della disciplina di tutela del lavoro subordinato, quando il rapporto di lavoro viene qualificato come etero-organizzato. Dalle evidenze mostrate nella tabella 1 emerge, tuttavia, che la legge abbia una scarsa efficacia.

Controllando, inoltre, per la gestione diretta o indiretta dell’account, emerge la possibile presenza di “caporalato digitale, dove caporali e datori di lavoro sono soprattutto delle app, con cui il lavoratore non riesce ad interfacciarsi per vedersi riconosciute le proprie tutele e la stessa selezione dei lavoratori viene fatta dagli algoritmi con il rischio di un aggravio di forme di discriminazione”.[1]

Non è un caso se il 52,2% delle donne, contro il 40% degli uomini che non ha un contratto in forma scritta, non gestisce direttamente il proprio account.

Rispetto al tema di come si valuta la prestazione delle persone che lavorano, emerge che per le donne ci si basa soprattutto su criteri soggettivi, ovvero il giudizio dei clienti, mentre per gli uomini sono i criteri oggettivi i parametri di giudizio, ovvero ci si basa sul numero di impegni, o incarichi di lavoro assegnati e portati a termine.

Infine, guardando agli effetti che tale valutazione può produrre (figura 1), la differenza di genere più marcata si evidenzia rispetto al mancato pagamento della prestazione svolta, che viene denunciato dal 9% delle donne, contro il 3% degli uomini.

Figura 1. Effetti che la valutazione può produrre per lavoratori e lavoratrici della piattaforma (valori percentuali)

Fonte: elaborazioni su dati Inapp-Plus, 2021

Queste analisi ci mostrano come il lavoro su piattaforma sia regolamentato in Italia da una legislazione di fatto irrisoria, a eccezione della legge 128/2019 il legislatore è silente in materia ed anche la giurisprudenza è assai limitata sul tema.

A tal proposito è interessante segnalare la prima decisione in materia e di particolare interesse, quella del 2020 del Tribunale di Bologna, che si è orientato verso una discriminazione indiretta in riferimento alle condizioni di accesso alla prenotazione delle sessioni di lavoro tramite piattaforma digitale. Nello specifico, un ciclofattorino che decideva di aderire a uno sciopero, non cancellando la prenotazione nel tempo che era stabilito contrattualmente, almeno 24 ore prima del relativo inizio della sessione prenotata, subiva un trattamento discriminatorio in virtù del fatto che le statistiche e ranking reputazionale andavano a peggiorare. 

Secondo il Tribunale di Bologna ci sarebbe una sorta di “incoscienza” e “cecità” della piattaforma coinvolta, Deliveroo, poiché la stessa non sarebbe capace di distinguere tra ragioni futili e ragioni importanti, tutelate dal nostro ordinamento – come lo sciopero, l’infortunio, la malattia e la maternità. Pertanto, la discriminazione è considerata indiretta e collettiva poiché una certa disposizione contrattuale, che è apparentemente neutra, ovvero la cancellazione anticipata delle sessioni prenotate, pone i ciclofattorini che scioperano in una posizione di particolare svantaggio.

Discriminazioni di genere si riscontrano anche nei sistemi di riconoscimento facciale che vengono utilizzati da Google, Facebook e Microsoft. Inoltre, l’algoritmo di ricerca Google, è risultato essere “gender biased”, poiché indicava annunci di lavoro con salari molto più elevati solamente a persone di sesso maschile in cerca di lavoro, con una palese differenza di trattamento per le donne, che trovavano molti meno annunci di quel tipo sulle loro bacheche.

In conclusione, è auspicabile che la proposta di direttiva europea sul miglioramento delle condizioni di lavoro sulle piattaforme digitali possa facilitare il contrasto alle discriminazioni algoritmiche, anche di genere, tenendo conto del fatto che la direttiva mira, tra le altre cose, a una maggiore trasparenza e tracciabilità degli algoritmi, a una presunzione di subordinazione quando si riscontra, in sostanza, il controllo operato dalla piattaforma sull’attività lavorativa e a un'inversione dell’onere della prova non più in capo ai lavoratori, ma alla stesse piattaforme. 

Riferimenti

Ajunwa I., Crawford K., Schultz J. (2017), Limitless worker surveillance, in California Law Review, vol. 105, p. 735

Barbera M. (2021) Discriminazioni algoritmiche e forme di discriminazioni, Labour & Law Issues, 7, n.1

Della Ratta F., De Minicis M. (2022), "Il lavoro in piattaforma", in Inapp, Bergamante F., Mandrone E. (a cura di), Rapporto Plus 2022. Comprendere la complessità del lavoro, Roma, Inapp, pp. 342-349

De Minicis M., Donà S., Marocco M. (2020), Il lavoro online in Italia: Gig o Sharing economy? Prime evidenze empiriche da un’indagine Inapp, Sinappsi, X, n.3, pp.125-145

Donà S., Marocco M. (2021), "Dalla proposta alla sperimentazione forzosa: il diritto di assemblea sindacale e l’esercizio dei diritti sindacali al tempo della pandemia", in Diritto del lavoro nell’era digitale, Atti del Convegno Italo -Brasiliano-26 e 27 maggio 2021, Roma, Universitas Mercatorum Press, p. 531

Donà S., Lettieri N. (2020), Critical data studies e tecnoregolazione. Paradigmi emergenti di ricerca e tutela nell’era dell’evoluzione data-driven del lavoro, in Dirittifondamentali.it.

Inapp, Bergamante F., Mandrone E. (a cura di), Rapporto Plus 2022. Comprendere la complessità del lavoro, Roma, Inapp, pp. 342-349

Note