Quando l’algoritmo diventa capo del personale
Immagina di entrare in ufficio un lunedì mattina e scoprire che la tua prossima valutazione di performance, quella che potrebbe significare un aumento, una promozione o semplicemente il mantenimento del posto, non sarà più decisa dal tuo responsabile diretto ma da un sistema di intelligenza artificiale che nemmeno conosci. Non è fantascienza: sta accadendo ora, in aziende di ogni dimensione, dove i responsabili HR delegano decisioni cruciali sulla carriera delle persone a algoritmi opachi, addestrati su dati storici carichi di bias e progettati per ottimizzare metriche di efficienza che raramente coincidono con il valore umano del lavoro. Questa non è semplicemente automazione: è una ristrutturazione silenziosa del potere nel luogo di lavoro, dove l’autorità tradizionale del capo viene sostituita o affiancata da un’entità tecnologica la cui logica rimane inaccessibile ai lavoratori stessi. E mentre le aziende sventolano bandiere di oggettività e meritocrazia, la realtà è spesso ben diversa: questi sistemi tendono a riprodurre e amplificare le disuguaglianze esistenti, trasformando la presunta neutralità dell’algoritmo in un nuovo strumento di controllo sociale mascherato da efficienza.
Il punto è che quando parliamo di AI nelle risorse umane, non stiamo parlando di uno strumento neutro che aiuta a prendere decisioni migliori. Stiamo parlando di un cambiamento di paradigma nel modo in cui il potere si esercita sui corpi e sulle vite lavorative. Tradizionalmente, anche nei sistemi più gerarchici, c’era almeno la possibilità di appello umano, di negoziazione, di spiegazione razionale da parte di un superiore che doveva rendere conto delle sue scelte. Con l’AI, quel canale si restringe drasticamente: come si fa a contestare una decisione quando non si conosce nemmeno il criterio che l’ha generata? Come si negozia con un modello di apprendimento automatico che valuta la tua ‘potenziale leadership’ basandosi sul tono della voce durante un video-colloquio o sulle parole chiave presenti nel tuo CV, senza che tu possa capire quali siano effettivamente quei criteri? Questa asimmetria informativa crea un nuovo rapporto di subordinazione, dove il lavoratore non solo è giudicato da un’entità invisibile, ma è anche privato degli strumenti per comprendere e quindi contestare quel giudizio.
Il caso Workday e la fine della finzione dell’oggettività algoritmica
Un esempio recente e particolarmente significativo ci arriva dagli Stati Uniti, dove nel febbraio 2024 è stata avviata una causa collettiva contro Workday, uno dei principali fornitori di software HR basato su IA, accusato di discriminazione razziale, di età e di disabilità attraverso i suoi algoritmi di selezione del personale. La causa, rappresentata dall’Equality Employment Opportunity Commission (EEOC), sostiene che i sistemi di Workday scorrano automaticamente i candidati in base a caratteristiche protette, escludendo persone nere, over 40 e disabili a tassi significativamente più alti rispetto ai candidati bianchi, giovani e non disabili, anche quando questi ultimi hanno qualifiche inferiori. Quello che rende il caso particolarmente rilevante è che non si tratta di un algoritmo sperimentale usato da una startup, ma di un prodotto commerciale ampliamente adottato da Fortune 500 e aziende medio-grandi in tutto il mondo, incluse molte multinazionali operative anche in Europa.
Quello che emerge dalle indagini preliminari è un quadro inquietante di come questi sistemi vengano addestrati: spesso su dati storici di assunzioni che riflettono decenni di pratiche discriminatorie, senza alcun tentativo significativo di debiasing efficace o di validazione esterna indipendente. Inoltre, la natura proprietaria di questi algoritmi impedisce qualsiasi forma di audit trasparente da parte di regolatori o dei candidati stessi. Workday, come molti altri vendor, sostiene che i suoi sistemi sono ‘strumenti di supporto alla decisione’ e che l’ultima parola spetta sempre all’umano. Ma nella pratica, quando un recruiter deve elaborare centinaia o migliaia di candidature, tende a fidarsi ciecamente del punteggio algoritmico, trasformando quello che dovrebbe essere un supporto in un vero e proprio gatekeeper automatizzato. È qui che entra in gioco l’articolo 22 del GDPR, che prevede il diritto di non essere sottoposto a una decisione basata esclusivamente sul trattamento automatizzato, compresa la profilazione, che produca effetti giuridici significativi o che incida in modo analogo sulla persona. Tuttavia, l’applicazione di questo diritto nel contesto lavorativo rimane complessa, soprattutto perché molti lavoratori non sono nemmeno consapevoli che una decisione algoritmica abbia avuto luogo.
ATS, video-colloqui e la nuova frontiera della sorveglianza sul candidato
Se il caso Workday mette in luce i rischi dei sistemi di screening del CV, un’altra area di rapida espansione è quella dei sistemi di tracciamento dei candidati (ATS) integrati con funzionalità di IA che vanno ben oltre la semplice corrispondenza di parole chiave. Questi sistemi analizzano ora il linguaggio usato nelle lettere di presentazione, valutano la ‘personalità’ attraverso test gamificati, e soprattutto stanno incorporando l’analisi dei video-colloqui, dove algoritmi di riconoscimento facciale e di analisi del tono vocale cercano di trarre conclusioni sulla affidabilità, l’entusiasmo, la stabilità emotiva e persino l’onestà del candidato. Aziende come HireVue, Pymetrics e ModernHire hanno costruito interi modelli di business attorno a questa tecnologia, promettendo alle imprese di ridurre il tempo di assunzione e aumentare la ‘qualità del hire’.
Ma cosa misurano realmente questi sistemi? Numerosi studi indipendenti hanno dimostrato che l’analisi del tono vocale e delle micro-espressioni facciali è fortemente influenzata da fattori culturali, neurodivergenza e semplici variazioni individuali nello stile comunicativo che nulla hanno a che fare con la competenza lavorativa. Un candidato autistico potrebbe essere penalizzato per mancato contatto visivo, un candidato di certe origini etniche per un tono di voce percepito come meno ‘autoritario’, un candidato anziano per una cadenza linguistica diversa. Inoltre, questi sistemi spesso funzionano come scatole nere: il candidato non sa quali siano i parametri valutati, non può accedere al proprio punteggio dettagliato e non ha modo di capire come migliorare per la prossima volta. È una forma di valutazione che somiglia più alla lettura del caffè che a una valutazione delle competenze, ma con la presunzione di oggettività che solo la tecnologia può dare. E mentre il candidato si trova sotto questo microscopio algoritmico, l’azienda che lo utilizza spesso non ha nemmeno fatto una valutazione d’impatto sulla protezione dei dati (DPIA) come richiesto dal GDPR per trattamenti che possono presentare un rischio elevato per i diritti e le libertà delle persone.
L’alternativa dal basso: riappropriarsi del processo di selezione
Davanti a questo scenario, la risposta non può essere semplicemente quella di chiedere algoritmi ‘migliori’ o più ‘etici’ sviluppati dalle stesse aziende che traggono profitto dalla vendita di questi sistemi. La prospettiva anarchica applicata alla tecnologia ci insegna che quando uno strumento è intrinsecamente progettato per concentrare il potere e ridurre l’autonomia, la sua riforma dall’interno è spesso impossibile o semplicemente un esercizio di facciata. L’alternativa vera deve venire dal basso, dalla riappropriazione collettiva del processo di selezione e valutazione del personale, trasformandolo da una funzione di controllo gerarchico in un processo di autovalutazione e mutuo riconoscimento all’interno delle comunità lavorative.
Qualche esempio concreto esiste già, sebbene spesso operi fuori dai riflettori delle grandi aziende. Alcune cooperative e collettivi di lavoratori stanno sperimentando forme di assunzione basate su periodi di prova mutuali, dove il candidato lavora fianco a fianco con il team per un periodo definito, alla fine del quale entrambi le parti decidono liberamente se proseguire insieme. Altri stanno adottando sistemi di valutazione a 360 gradi realmente partecipativi, dove il feedback viene raccolto da pari, subordinati e responsabili in modo strutturato ma non algoritmico, con spazi di discussione aperta per comprendere il contesto dietro i giudizi. Ancora più interessante è l’uso di strumenti open source e autogestiti per la gestione delle risorse umane: progetti come opensourceHR o ERPNext (che include moduli HR) permettono alle organizzazioni di self-hostare completamente i propri sistemi di gestione del personale, evitando di affidare dati sensibili su valutazioni, stipendi e performance a vendor terzi whose modelli di business spesso includono la monetizzazione indiretta di quei stessi dati attraverso l’addestramento di modelli IA proprietari.
Questo approccio non elimina la necessità di valutazione o di prendere decisioni difficili su chi promuovere o chi lasciare andare. Ma sposta il luogo dove quelle decisioni vengono prese: da un algoritmo opaco e distante a uno spazio di discussione collettiva, dove le ragioni dietro una scelta devono essere esplicitate, negoziate e accettate da chi ne è direttamente interessato. È un ritorno alla politica nel luogo di lavoro, intesa non come gioco di potere ma come capacità collettiva di prendere decisioni che riguardano la vita comune. E mentre questa strada è certamente più impegnativa, più lenta e meno ‘scalabile’ delle soluzioni IA chiavi in mano, ha il vantaggio fondamentale di essere compatibile con la dignità umana e il principio di autogestione, valori che nessun algoritmo può realmente incarnare perché semplicemente non li comprende.