Gestire le risorse umane con l’IA: i limiti dell’efficienza algoritmica

Affidare la gestione delle risorse umane alle macchine. Una scelta che coinvolge sempre più aziende, sostenuta dalla convinzione che delegare all’Intelligenza Artificiale decisioni e valutazioni sul personale sia un’opportunità per aumentare l’efficienza, ridurre i pregiudizi e allineare le pratiche di HR agli obiettivi aziendali. Una scelta che può apparire paradossale proprio nella disciplina delle relazioni fra datore di lavoro e dipendente, in cui il discernimento umano, la relazione face to face, il dialogo e le sensazioni possono pesare tanto quanto competenze e titoli. E l’Organizzazione Internazionale del Lavoro (ILO) frena gli entusiasmi di chi si sta affidando con ottimismo incondizionato a questi sistemi: i principali fornitori di tecnologia HR stanno integrando nelle proprie piattaforme sistemi di AI, machine learning e strumenti di analisi ma, per la maggioranza delle aziende che ha investito in queste tecnologie, questo non si è tradotto in un effettivo incremento del volume d’affari.

Tra le funzioni svolte dai sistemi AI nella gestione delle risorse umane rientrano  reclutamento, selezione, definizione delle retribuzioni, valutazione delle prestazioni

Nel Working Paper n.154 “AI in Human resource managment. The limits of empiricism”, l’ILO ha esaminato le cause di questo scostamento fra aspettative e risultati analizzando le principali funzioni svolte dai sistemi AI nella gestione delle risorse umane: reclutamento, selezione, definizione delle retribuzioni, programmazione del lavoro e valutazione delle prestazioni. Il primo errore di fondo riguarda proprio il presupposto che sostiene l’adozione di queste tecnologie, ovvero l’idea che il comportamento umano possa essere ridotto ad una serie di indicatori misurabili e che, una volta raccolti abbastanza dati, sia possibile arrivare automaticamente alla soluzione più efficiente. È vero che alcuni aspetti dell’attività lavorativa si prestano bene alla quantificazione (ad esempio il numero di ore lavorate, quantità di beni prodotti, rispetto di scadenze, ecc.) ma, per quanto attraente secondo una presunta garanzia di efficienza e oggettività, ridurre le relazioni con il personale – dal reclutamento all’organizzazione aziendale – a variabili standardizzate elimina la componente di discernimento umano che è l’unica capace di integrare in una visione unitaria le competenze tecniche, la motivazione, le capacità relazionali e di adattamento e tutti quegli altri aspetti fondamentali per la valutazione globale di un individuo nel contesto aziendale difficilmente traducibili in formule.

Una quota crescente di annunci di lavoro passa per piattaforme di terze parti dove gli algoritmi tendono ad escludere alcune categorie di utenti dalla visualizzazione 

L’Intelligenza Artificiale può certamente ridurre i tempi di screening dei curriculum, ordinare grandi quantità di candidature, individuare parole chiave, esperienze pregresse o profili apparentemente coerenti con una posizione aperta; ma il punto è se questa rapidità nella selezione si traduce nell’individuazione del candidato migliore. Oggi, una quota crescente di annunci di lavoro, passa per piattaforme di terze parti (ad es. Facebook) che selezionano gli utenti a cui mostrare gli annunci in base a criteri definiti dal datore di lavoro e dagli algoritmi della piattaforma stessa. E gli algoritmi tendono ad escludere alcune categorie di utenti dalla visualizzazione degli annunci secondo logiche di profilazione che possono risultare discriminatorie (sesso, etnia, età, orientamento sessuale, religione, origine nazionale o affiliazione politica) o secondo criteri di minimizzazione dei costi pubblicitari ed è sempre più difficile distinguere fra queste due dinamiche. Il documento cita un esperimento condotto su Facebook da alcuni ricercatori che ha esaminato la pubblicizzazione di un’offerta di lavoro in ambito STEM, rilevando che, sebbene l’annuncio fosse concepito per essere rivolto a candidati di entrambi i sessi, veniva mostrato prevalentemente a uomini. Secondo i ricercatori l’algoritmo aveva “imparato” che l’annuncio avrebbe ottenuto più visualizzazioni per dollaro speso massimizzando l’esposizione agli uomini, poiché gli annunci rivolti agli uomini sono meno costosi di quelli rivolti alle donne e si è evoluto in questa direzione. Tuttavia hanno anche sottolineato che, non essendo pubblici i codici di programmazione dell’algoritmo, è anche possibile che il sistema fosse programmato a monte per selezionare gli uomini come gruppo demografico preferenziale.

Le distorsioni proseguono nelle fasi di screening e selezione dei candidati, escludendo automaticamente candidati potenzialmente idonei e vantaggiosi per l’azienda

Le distorsioni proseguono poi nelle fasi di screening e selezione dei candidati, con la selezione dei curriculum che avviene tramite l’analisi di pattern e incrocio di dati preesistenti che, anche in questo caso escludono automaticamente candidati potenzialmente idonei e vantaggiosi per l’azienda. Inoltre, anche i colloqui sono spesso gestiti interamente da sistemi AI attraverso video colloqui in cui vengono somministrate domande predefinite da un bot che raccolgono dati visivi (espressioni facciali, movimenti oculari, movimenti delle mani), dati verbali (vocabolario, parole chiave) e dati vocali (tono della voce, pronuncia). Tali dati vengono successivamente incorporati in sistemi di scoring algoritmico che assegnano punteggi e predicono l’idoneità dei candidati orientando la scelta finale, senza che sia sempre evidente il nesso tra ciò che viene misurato – ad esempio i movimenti degli occhi o le parole utilizzate – e l’obiettivo dichiarato dell’assunzione. Del resto, un caso di studio su una grande multinazionale che ha integrato l’IA nel reclutamento, ha messo in luce divergenze tra le valutazioni del programma e quelle dei responsabili delle assunzioni, costringendo gli sviluppatori a riprogettare il sistema e ad adottare infine un approccio ibrido proprio per garantire la trasparenza e l’interpretabilità dei risultati.

La dimensione più preoccupante emerge nella gig economy, dove l’IA apprende chi è disposto a lavorare per meno e a quali condizioni

Sul fronte delle retribuzioni, le distorsioni assumono una connotazione diversa ma altrettanto insidiosa. Le aziende che promuovono l’uso dell’IA per determinare i compensi sono soprattutto quelle con accesso a grandi volumi di dati salariali, in particolare i fornitori di servizi payroll che aggregano informazioni provenienti da molteplici organizzazioni, utilizzate poi da aziende con caratteristiche e contesti differenti, sia normativi sia sociali. Questi strumenti promettono griglie salariali coerenti con le norme di mercato, ma le raccomandazioni che ne scaturiscono sono utili solo se l’organizzazione che le adotta e i lavoratori per cui sono state elaborate sono effettivamente rappresentativi di quelle norme. La dimensione più preoccupante emerge nella gig economy, dove le grandi piattaforme dispongono di enormi volumi di dati individuali e granulari. Man mano che i lavoratori accettano o rifiutano incarichi sulla base del compenso, della durata e delle proprie preferenze, l’IA apprende chi è disposto a lavorare per meno e a quali condizioni. È ciò che Veena Dubal (2023) ha definito “discriminazione salariale algoritmica”: una volta identificati i lavoratori disposti ad accettare compensi più bassi, il sistema limita progressivamente il loro potenziale di guadagno, invertendo la logica delle tutele salariali minime costruite dalla legislazione tradizionale. Il rischio si amplifica in chiave di genere, poiché la ricerca ha ampiamente dimostrato che le donne sono più inclini ad accettare offerte salariali inferiori rispetto a uomini con competenze equivalenti: all’interno di sistemi retributivi individualizzati, gli algoritmi possono tradurre questa tendenza storica in offerte sistematicamente più basse.

I lavori standardizzati e ripetitivi si prestano a valutazioni di tipo quantitativo: se un lavoratore non è in grado di raggiungere una soglia minima può scattare un provvedimento disciplinare

Nell’àmbito della gestione delle prestazioni, i sistemi di Intelligenza Artificiale sono spesso progettati con l’obiettivo di migliorare l’efficienza e la produttività, con modalità ed esiti diversi in base al tipo di occupazione oggetto di misurazione. I lavori standardizzati e ripetitivi si prestano particolarmente a valutazioni di tipo quantitativo, ma spesso i lavoratori di questi segmenti ne subiscono le conseguenze peggiori: in base a questi sistemi, se un lavoratore non è in grado di raggiungere una soglia minima può scattare una notifica o l’adozione di provvedimenti disciplinari nei suoi confronti, ma gli obiettivi di prestazione vengono fissati a livelli progressivamente più alti e l’accelerazione dei ritmi è direttamente associata all’aumento degli infortuni e delle malattie professionali. Professioni che invece richiedono la risoluzione di problemi complessi o caratterizzate da un elevato livello di interazione interpersonale si adattano meno alle metriche quantitative, ma i recenti sviluppi delle tecnologie di analisi del linguaggio e delle espressioni facciali hanno spinto lo sviluppo dell’IA verso il “riconoscimento emotivo”, offrendo ai lavoratori feedback in tempo reale su come stanno svolgendo il loro lavoro (accade ad esempio nei call center, dove il riconoscimento vocale genera raccomandazioni sul contenuto delle chiamate o sullo stato emotivo del lavoratore in base al tono della voce). Per i lavoratori della conoscenza, il Covid-19 ha portato alla diffusione di forme estreme di controllo del lavoro da remoto (conteggio dei tasti premuti, movimenti del mouse, attività sullo schermo, ecc.); tuttavia diverse ricerche sulla qualità del lavoro hanno dimostrato che quando i lavoratori hanno un certo margine di autonomia decisionale e gestionale, la qualità del lavoro nel suo complesso è migliore.

L’IA analizza ciò che i lavoratori fanno per determinare quanto bene lo fanno, senza considerare contesti e situazioni specifiche

I principali fornitori di software hanno integrato metriche di produttività direttamente nelle proprie applicazioni: registrando le attività dei dipendenti su piattaforme di collaborazione, questi programmi tracciano non solo quanto tempo un lavoratore trascorre online, ma traggono conclusioni anche sulla qualità del suo coinvolgimento. Il problema è che questo metodo analizza ciò che i lavoratori fanno per determinare quanto bene lo fanno, senza considerare contesti e situazioni specifiche. Un dipendente può ad esempio risultare assente dal computer pur essendo impegnato in attività pienamente produttive, così come un’intensa interazione tra due colleghi può indicare una collaborazione, una situazione conflittuale o una relazione che prescinde totalmente dal lavoro. In questi casi, chi utilizza il sistema rischia di fondare le proprie conclusioni sulla performance su dati che con la performance non hanno una necessariamente una relazione, costruendo un’immagine dell’organizzazione che non corrisponde a ciò che accade realmente.

I limiti dell’IA applicata alla gestione delle risorse umane derivano da distorsioni a monte dello sviluppo dei sistemi

Tutti questi limiti dell’IA applicata alla gestione delle risorse umane derivano da tre distorsioni a monte dello sviluppo dei sistemi: 1) difficoltà nel definire con chiarezza quali devono essere gli obiettivi – compito particolarmente difficile quando il sistema deve incorporate aspetti relazionali del lavoro; 2) qualità dei dati utilizzati per l’addestramento e l’analisi, non sempre rappresentativi dell’azienda che utilizza il software; 3) modalità con cui il sistema viene addestrato (opacità degli algoritmi e dei processi di machine learning).

I professionisti responsabili delle risorse umane e i dipendenti stessi dovrebbero partecipare alla progettazione, costruzione e perfezionamento dei sistemi 

Se queste tecnologie vengono impiegate nello svolgimento delle funzioni HR solo perché “pronte all’uso” e “facili da usare” – sottolinea l’ILO – il risultato non sarà mai soddisfacente e non si tradurrà in un reale vantaggio per le aziende. Affinché i sistemi si sviluppino non solo nella direzione dell’efficienza ma anche dell’efficacia, è quindi necessario che i professionisti responsabili delle risorse umane e i dipendenti stessi partecipino alla loro progettazione, costruzione e perfezionamento. Le aziende potranno ottenere vantaggi reali solo se negli sviluppi futuri riconosceranno l’importanza di un approccio ponderato e incentrato sulla persona piuttosto che sull’ottimismo incondizionato nell’efficienza della macchina.

*Mariarosaria Zamboi, ricercatrice dell’Eurispes.