Questa intelligenza artificiale scopre la schiavitù moderna

Oggi come oggi probabilmente sappiamo tutti che le persone che creano i nostri vestiti, il nostro cioccolato e i nostri anelli diamantati spesso e volentieri vengono sfruttati in questo processo. I lavori forzati — per esempio, del lavoro svolto contro la volontà di una persona — colpiscono 20.9 milioni di persone in tutto il mondo, su diverse industrie, anche se ormai ogni paese dispone di una legge che proibisce questa schiavitù moderna.

Seguendo la scia della crescente consapevolezza dei consumatori e delle normative sempre più rigide impegnate a far pressione sulle aziende per mettere in regola i loro processi produttivi, un'azienda ha ideato un sistema di machine learning che dovrebbe analizzare dei dati e localizzare i lavori forzati nei processi manifatturieri.

SAP Ariba, una azienda software e IT for-profit californiana, lavora con milioni di piccole e grandi aziende per ottimizzare la loro filiera produttiva, il sistema da cui i loro prodotti vengono sviluppati, costruiti o distribuiti. Lavora con aziende che hanno a che fare con il mondo della moda, ma anche il cibo e la tecnologia.

"Il fatto che ogni paese del mondo abbia reso i lavori forzati illegali ha fatto capire alle aziende che non possono prendere alla leggera questo fattore," ha spiegato Padmini Ranganathan, il vice presidente dei prodotti e dell'innovazione di Ariba.

Il programma AI che Ranganathan e il suo team hanno creato è simile a quelli utilizzati nelle analisi di rischio. Grazie al supporto di organizzazioni no-profit impegnate a monitorare le condizioni di lavoro, sfrutta centinaia di fattori informativi per segnalare possibili violazioni dei lavori forzati.

Alcuni di questi dati sono riportati da dei controllori indipendenti il cui ruolo è di ispezionare periodicamente fabbriche o fattorie, o dai lavoratori stessi attraverso linee telefoniche anonime. Altri dati arrivano dai media o da fughe di dati che arrivano da whistleblower o attivisti.

Ranganathan mi ha spiegato il funzionamento della demo della AI, che verrà lanciata nei prossimi mesi in collaborazione con Made in a Free World, organizzazione impegnata a garantire condizioni di lavoro eque. Grazie a una semplice interfaccia, il rischio di lavori forzati è segnalato per azienda e mappato da dei colori. Le no profit aiutano a includere informazioni importanti per evidenziare i paesi a rischio come il Ghana o il Bangladesh, dove i lavoratori sono più vulnerabili agli abusi.

"Aspiro a rendere questo tipo di accountability parte dello status quo," mi ha spiegato.

Ciononostante, il machine learning è noto per adottare i bias e i pregiudizi che gli umani declinano sulle informazioni che analizzano.

"La maggior parte dei dati relativi alle filiere produttivi è immondizia," ha spiegato Kohl Gill, fondatori e CEO di LaborVoices, un'azienda che raccoglie dati direttamente dai migliaia di lavoratori in paesi come il Bangladesh o la Turchia per favorire ambienti di lavoro sicuri.

Gill ha spiegato che i lavoratori non sempre si fidano o sfruttano hotline anonime o parlato con gli ispettori. Se hanno provato questi metodi in passato senza successo, si potrebbero sentire come se stessero "urlando nel vuoto," ha detto. E visto che gran parte dei dati raccolti sui lavoratori dai datori di lavoro è proprietario, non è disponibile a nessuno al di fuori dell'azienda, e così avere un quadro chiaro delle condizioni di una fabbrica è piuttosto difficile.

"Se stai sfruttando dei sondaggi o dei dati proprietari, o ancora dei dati provenienti dalle hotline — non stai andando da nessuna parte," ha spiegato. LaborVoices ha provato a evidenziare questo problema lavorando fuori dalle aziende per raccogliere informazioni nelle comunità di lavoratori, in cambio di informazioni per nuove opportunità di lavoro.

Ranganathan spera che il suo sistema a SAP Riba possa aiutare a risolvere questi problemi. Ha detto che il fatto che il machine learning possa segnalare e riportare gli abusi in tempo reale, invece che nelle solite mesate o annate di analisi, potrebbe aiutare le aziende a prendere azioni più immediate. Creando una API aperta al pubblico (ovvero rendendo il programma disponibile per tutti) alla fine di quest'anno, vuole che SAP Ariba sia in prima linea nel monitoraggio delle filiere produttive.

Anche così, pero, l'intelligenza artificiale non può riconoscere la radice dei lavori forzati in ogni paese. E i dati riportati non sono sempre affidabili.

"Quando ricevi questi report sui lavori forzati, non si tratta solo di dati in una mail," ha spiegato. "È una faccenda urgente — le aziende non vogliono essere multate mentre cercano di tamponare questi rischi."