Se costruisci o compri automazione HR, c’è una domanda che dovrebbe arrivare prima del modello: chi prende davvero la decisione finale? Perché quando una decisione incide sul rapporto di lavoro, “lo ha deciso il sistema” non è più una risposta accettabile.
La regola che cambia il design
Il punto non è vietare l’AI. Il punto è impedire che una decisione delicata venga delegata integralmente a un trattamento automatizzato. Questo significa supervisione umana reale, informazioni comprensibili e capacità di ricostruire quali elementi hanno contribuito alla proposta del sistema.
EDITORIAL NOTE“Un sistema che decide qualcosa su una persona deve saper raccontare come ci è arrivato.”
La conseguenza progettuale più importante
Perché riguarda chi scrive il sistema, non solo chi scrive il contratto
Se non registri le fonti usate, i parametri rilevanti e il percorso decisionale mentre il sistema lavora, non puoi ricostruirli bene dopo. La compliance qui non è un PDF da aggiungere alla fine: è logging, audit trail, permessi, ruoli e punti di approvazione disegnati prima.
La parte personale
Mi è capitato di essere filtrato da sistemi automatici durante candidature di lavoro. Un no fa parte del gioco. Quello che irrita è non sapere se sei stato escluso per un requisito reale o per una proxy assurda che nessuno ha controllato. È uno dei motivi per cui “human in the loop” non dovrebbe significare una firma messa alla fine.
Per chi costruisce sistemi AI seri, questa direzione normativa non è un ostacolo strano. È quasi una checklist di buon design: tracciabilità, spiegabilità, responsabilità e capacità di fermare il sistema quando il costo dell’errore è alto.