L’Intelligenza artificiale, se non adeguatamente governata, rischia di rafforzare e amplificare discriminazioni già presenti, in particolare quelle di genere.
L’AI non è solo un’evoluzione tecnologica: può essere considerata una vera e propria “infrastruttura civile” in grado di influire sul capitale di fiducia del patto sociale.
In un contesto in cui il lavoro resta la soglia decisiva della cittadinanza, l’ingresso degli algoritmi nei processi di selezione può consolidare asimmetrie esistenti o, al contrario, contribuire ad abbattere barriere storiche.
È quanto emerge dallo studio “Intelligenza artificiale e bias di genere nel reclutamento del personale”, curato dall’Università della Calabria e dal Politecnico di Bari.
“Non è un decisore neutrale”
L’AI sta ridefinendo in modo sempre più strutturale i confini dei processi della selezione del personale, introducendo nuove opportunità di efficienza e innovazione, ma solleva interrogativi sul piano della trasparenza, dell’equità e della responsabilità. Potrebbe infatti riprodurre i pregiudizi (bias) già presenti nei dataset e nei processi organizzativi.
“L’AI non è un decisore neutrale, ma uno strumento che riflette le scelte di chi lo progetta e lo utilizza”, spiega Salvatore Ammirato, responsabile scientifico della ricerca.
Inoltre, poiché da un lato si tratta di “un’innovazione radicale e pervasiva, quindi estremamente impattante – aggiunge Pierpaolo Pontrandolfo, professore presso il Politecnico di Bari -, dall’altro è connotata da una grande semplicità di utilizzo, che aumenta il rischio di un uso improprio”.
Bias blind spot: il condizionamento inconsapevole
Un dato significativo riguarda il livello di consapevolezza sull’uso di questa tecnologia: solo il 13% dei partecipanti allo studio utilizza concretamente strumenti di AI nei processi di selezione, dimostrando la scarsa percezione della presenza di algoritmi già oggi integrati nei software Hr.
Non stupisce, allora, un altro aspetto da tenere in considerazione nelle decisioni, il cosiddetto “bias blind spot”, ovvero, la tendenza, da parte dei selezionatori, a riconoscere l’esistenza di pregiudizi nei processi di valutazione, senza però individuarli nelle proprie scelte.
In pratica, si ammette l’esistenza di discriminazioni di genere, ma risulta difficile riconoscere come elementi quali aspetto fisico, tono di voce o rigidità biografiche continuino a influenzare, anche in modo indiretto, le decisioni di selezione.
Come comprendere le motivazioni dietro ogni decisione automatizzata?
“L’innovazione – sottolinea Nino Foti, presidente della Fondazione Magna Grecia – per essere davvero tale deve essere adottabile perché verificabile, e verificabile perché governata. Non si tratta di nutrire una fiducia acritica nella presunta neutralità della tecnologia, ma di contribuire alla costruzione di criteri minimi di trasparenza e pratiche di controllo che permettano a imprese e istituzioni di usare questi strumenti senza scaricare i rischi sulle persone. In questo equilibrio tra tecnologia e responsabilità si gioca il futuro del lavoro. È quantomai necessario immaginare percorsi di governance e trasparenza, puntando a modelli che consentano ai professionisti di comprendere le motivazioni dietro ogni decisione automatizzata, mantenendo però sempre una supervisione umana”.
