QUADERNO / TECNOLOGIA E LAVORO
Mettere una persona a confermare l’output di un sistema non basta a rendere il processo responsabile. Occorre darle informazioni, tempo e possibilità reali di intervenire.
Il confronto sul fattore umano nello sviluppo aumentato apre una questione organizzativa, oltre che tecnologica. In un altro articolo del Quaderno ho proposto di chiedersi quali capacità vogliamo aumentare. Qui vorrei guardare più da vicino a ciò che accade quando uno strumento entra nel lavoro quotidiano.
La domanda non è se lasciare spazio alle persone oppure all’automazione. È come distribuire compiti e responsabilità senza creare una supervisione soltanto apparente. Il punto di partenza che proporrei è il lavoro reale, comprese le sue interruzioni, le informazioni mancanti e le condizioni meno frequenti.
Confermare non equivale a controllare
Immaginiamo una procedura che presenti all’operatore una raccomandazione e due pulsanti: accetta o rifiuta. Prima di considerarla una forma di controllo umano, chiederei quali elementi permettano di scegliere. Sono visibili i dati rilevanti? Si può chiedere una verifica? Il rifiuto viene registrato come un errore o come un’informazione da capire?
La responsabilità dovrebbe corrispondere a una capacità effettiva di azione. Una persona non può essere trattata come garante di un risultato se non dispone degli strumenti per comprenderlo o contestarlo. Questo principio merita attenzione già nella progettazione dell’interfaccia e del processo.
Preparare i casi che non rientrano nella routine
Per la formazione non sceglierei soltanto esempi perfettamente riusciti. Includerei casi incompleti, risposte incoerenti e situazioni nelle quali occorre fermarsi. Non per generare sfiducia nello strumento, ma per costruire un’aspettativa proporzionata alle sue capacità.
Chiarirei inoltre il percorso di segnalazione: chi prende in carico un dubbio, come si conserva il contesto e quando serve coinvolgere una competenza diversa. Una procedura di escalation comprensibile può essere più utile di un’avvertenza generica sul dovere di controllare tutto.
Osservare il sistema nel tempo
Il NIST AI RMF Playbook organizza le azioni di gestione del rischio intorno a governance, comprensione del contesto, misurazione e gestione. È un riferimento utile per ricordare che la valutazione non si esaurisce al momento dell’introduzione di una tecnologia.
In una sperimentazione raccoglierei anche i casi in cui le persone hanno corretto una proposta, chiesto aiuto o scelto di non usare il sistema. Queste osservazioni possono indicare un problema nei dati, nell’interfaccia oppure nella distribuzione dei compiti. Il loro valore sta nella possibilità di migliorare il processo, non di cercare un colpevole.
Il fattore umano, così inteso, non è un residuo da proteggere contro il progresso. È parte delle condizioni che rendono una tecnologia utilizzabile. Automazione e competenze crescono insieme quando le persone possono capire che cosa sta accadendo, riconoscere i limiti e contribuire a correggerli.
Origine dello spunto. Panel Industry & Transportation, Convention 25 anni Mare Group, Salerno, 24 luglio 2026. L’evento. Approfondimento: NIST — AI RMF Playbook.
Foto illustrativa: ThisisEngineering / Unsplash · Licenza.
