In Austria un software calcolerà la probabilità di un disoccupato di trovare un impiego e stabilirà quali oferte proporgli. Molti temono discriminazioni verso le donne e gli stranieri.
In Austria farà presto parte della quoti- dianità un sistema che valuta i disoccupati e li divide in gruppi. L’Arbeits- marktservice (Ams), l’agenzia governativa del lavoro, userà un algoritmo per calcolare la probabilità che un disoccupato trovi un lavoro. Molti, però, temono che il software possa discriminare le donne, gli anziani e gli stranieri. Il programma funzio- na grazie alla combinazione di diversi dati personali, tra cui informazioni sul livello d’istruzione e sulle esperienze lavorative, ma contano anche l’età, il genere e la citta- dinanza. Quando qualcuno cerca un lavoro, l’algoritmo calcola la sua probabilità di suc- cesso, fornendo una percentuale. In seguito, sulla base di questo valore, il programma divide le persone in tre gruppi: chi ottiene dal 66 per cento in su è inserito in una fascia “alta”, che ha buone opportunità; chi ha un valore inferiore al 25 per cento inisce nella fascia “bassa”; tutti gli altri entrano nella fascia “media”. In un documento dell’Ams si possono leggere le caratteristiche che l’algoritmo giudica negative o positive. Le donne e le persone più anziane, per esempio, hanno un indice negativo. Su questo punto sono scoppiate le critiche più accese. L’obiettivo principale del programma è aumentare l’eicienza dell’Ams. Ma valutare un genere, una certa età o la provenienza come potenziali svantaggi per la ricerca di un lavoro non signiica discriminare?
Secondo Johannes Kopf, presidente dell’Ams, il sistema mostra solo le discriminazioni che esistono già nel mercato del lavoro. Se si ignorassero queste realtà, sarebbe, per esempio, impossibile assicurare alle donne il sostegno necessario. L’Ams è obbligato a spendere il 50 per cento delle sue risorse in misure di sostegno alle donne, anche se nel 2017 erano donne solo il 43,3 per cento delle persone in cerca di lavoro. “Un fedele quadro della realtà non può essere discriminatorio”, conclude Kopf.
Carla Hustedt, che dirige il progetto Eti- ca degli algoritmi per la fondazione Bertelsmann, non la pensa così. Partire da alcuni dati per arrivare a precise conclusioni può essere un problema, “perché così non si fa che riprodurre i pregiudizi esistenti”. Amazon ha eliminato un algoritmo per la selezione delle candidature perché pena- lizzava sistematicamente le donne: dai dati usati come base di calcolo, in parte vecchi di dieci anni, emergeva che i candidati con più probabilità di successo erano gli uomi- ni. Un fenomeno difuso nel settore tecno- logico, che “bisogna riconoscere e combat- tere con misure adeguate”, dice Hustedt.
Fattore vincolante
Kopf è convinto che l’Ams sia pronto ad af- frontare questo tipo di problemi. I suoi dipendenti cominceranno a usare il program- ma dal 15 novembre. Disporranno della percentuale di successo di ogni disoccupato e conosceranno i fattori che l’hanno in- luenzata, ma inizialmente la useranno solo per discutere con chi cerca lavoro. Dal 2020, invece, la probabilità di successo sarà un fattore vincolante e determinante nella va- lutazione dei disoccupati, anche se la scelta delle misure adatte sarà sempre presa da un consulente in carne e ossa, assicurano all’Ams.
Dal 2020, inoltre, a chi fa parte della fa- scia bassa saranno oferti corsi di formazio- ne meno complessi e intensivi. In pratica, chi ha meno opportunità riceverà di meno: tutto nel nome dell’eicienza. La spiegazio- ne di Kopf è che i corsi di formazione spe- cialistici sono cari e spesso i partecipanti abbandonano prima della ine, quindi quei soldi potrebbero essere usati meglio. Pro- prio tra le persone di fascia bassa i corsi base hanno più successo e, dato che costano me- no, possono essere frequentati da più candidati, dice Kopf.
Il problema non è il software in sé, os- serva Hustedt: “La responsabilità è scari- cata tutta sull’algoritmo, ma la questione di chi debba ricevere più aiuto in una società solidale e politica”. Invece il dibattito è sostituito dall’algoritmo, “visto da alcuni come il male assoluto e da altri come una benedizione”. Bisognerebbe parlare delle sfumature. Kopf promette proprio di fare questo: il software dovrà essere controllato e migliorato costantemente. Saranno valUtati i posti di lavoro assegnati e il successo delle misure adottate, ma anche come si comportano i dipendenti dell’Ams con l’al- goritmo. “Faremo in modo che i nostri consulenti non attribuiscano un valore ec- cessivo alla probabilità di successo”, conclude.
Fonte: Valentin Dornis, Süddeutsche Zeitung, Germania
massimogelmini.it 