Trappole comuni da evitare
Il percorso illustrato per iniziare a usare il processo di analisi successiva a eventi imprevisti è utile, ma può esserlo anche conoscere alcuni degli ostacoli che si possono incontrare durante il viaggio.
In questa unità verranno illustrate alcune trappole comuni già incontrate durante il processo di analisi successiva a eventi imprevisti e verrà descritto come evitarle.
Trappola 1: Attribuzione dell'etichetta "errore umano"
Si ricorderà che i primi periti della storia del B-17 di cui si parlava nel modulo di introduzione giunsero alla conclusione dell'"errore del pilota", noto anche come "errore umano". Ritornando a questa storia,
nell'introduzione è stato suggerito che le conclusioni a cui si era giunti potrebbero non essere soddisfacenti. Sicuramente non lo erano per Alphonse Chapanis, uno psicologo militare a cui è stato chiesto dalla Air Force degli Stati Uniti di indagare su questi incidenti. Egli notò che, tra le altre cose, gli incidenti riguardavano solo il B-17 e pochi altri velivoli. Nello stesso periodo migliaia di aerei da trasporto C-47 venivano usati nell'Europa occidentale, tuttavia con il C-47 non sono mai successi incidenti simili.
Così intervistò piloti, e in base alle loro dichiarazioni, fece dei sopralluoghi nelle cabine di pilotaggio dei B-17. Notò che c'erano due leve di comando: quella per il carrello e quella per i flap. Le leve di comando erano posizionate a una distanza di poco più di 7 centimetri l'una dall'altra nella cabina di pilotaggio. La loro modalità di funzionamento era identica. Era facile confonderle e proprio questo era successo negli indicenti. Se un aereo è appena atterrato, si devono estendere i flap e prima di parcheggiarlo bisogna ritrarli. Chapanis provò, quindi, a fare una cosa:
incollò una piccola ruota di gomma sulla leva di comando del carrello e una "linguetta" rigida rettangolare sulla leva per i flap: non si verificarono altri incidenti.
Chapanis è ora noto come uno dei fondatori del campo dell'ergonomia, ovvero lo studio dei fattori di progettazione che influenzano le prestazioni umane, e con una semplice osservazione, ha scoperto che la progettazione della cabina di pilotaggio potrebbe influire sulla probabilità che si verifichino errori umani. Questo approccio è stato portato avanti ed è stato integrato nella progettazione di tutti gli aeromobili moderni. Le due leve di comando negli aeroplani di oggi sono ben differenziate in base a quanto previsto dalle leggi federali degli Stati Uniti.
Ma perché parlare di questa storia?
Tutti possono commettere errori. Tuttavia, l'errore umano non è una causa, ma un sintomo. Quando si pensa che l'errore umano causi un problema, di solito ci si ferma invece di analizzare più approfonditamente l'incidente.
La progettazione dei sistemi, il contesto organizzativo e il contesto personale influiscono tutti sulle tempistiche, le modalità e l'impatto degli errori commessi da una persona. Il termine "errore umano" è un'etichetta che porta ad abbandonare l'indagine proprio nel momento in cui si sta per scoprire qualcosa di interessante sul sistema.
Il problema di una conclusione delle indagini con l'etichetta "errore umano" fa perdere di vista il fatto che l'azione compiuta da una persona aveva delle valide motivazioni nel momento in cui è stata compiuta. Gli errori, per definizione, non sono intenzionali, quindi quella persona non voleva commettere un errore.
Quando si legge o si sente il termine "errore umano", allora si deve fare un'analisi più approfondita. Se l'obiettivo è l'apprendimento, non bisogna fermare le indagini quando si rileva un errore umano, come spesso accade. Come dimostra la storia dei B-17, è proprio andando oltre l'errore umano che si scoprono le cose più interessanti sul sistema.
Trappola 2: Ragionamento contraddittorio
Contraddittorio significa "che contraddice i fatti" e il termine ragionamento contraddittorio si riferisce al raccontare una storia inserendo eventi che non si sono verificati, al fine di spiegare gli eventi che invece si sono verificati. Questo non ha molto senso, anche se si tende sempre a farlo.
Le affermazioni contraddittorie possono essere identificate dalle espressioni:
- Poteva
- Doveva
- Avrebbe dovuto
- Non è riuscito a
- No
- Se solo
Di seguito sono riportati alcuni esempi di affermazioni contraddittorie sulle revisioni post-evento imprevisto:
"Il sistema di monitoraggio non è riuscito a rilevare il problema".
"Il tecnico non ha verificato la validità della configurazione prima di intervenire."
"Doveva essere recuperato nell'ambiente canary".
Il problema di questo tipo di ragionamento in un'analisi successiva a eventi imprevisti è che si parla di eventi che non sono accaduti, invece di dedicare del tempo a capire in che modo sono andate le cose. Da queste ipotesi non si impara niente.
Trappola 3: Linguaggio prescrittivo
Il linguaggio prescrittivo implica spesso che esiste una procedura "ovviamente corretta" che gli operatori avrebbero dovuto seguire e giudica le azioni di questi operatori in retrospettiva.
Il linguaggio prescrittivo può in genere essere identificato da avverbi quali "non adeguatamente", "senza la necessaria attenzione", "frettolosamente" e così via.
Il pensiero prescrittivo porta a giudicare le decisioni in base ai risultati. Non è un discorso logico perché il risultato è l'unica informazione che non era disponibile a chi ha dovuto valutare la situazione e prendere le decisioni.
Il linguaggio prescrittivo può essere usato anche nel senso opposto. Ad esempio, si possono elogiare gli operatori per aver agito "in modo appropriato". Tuttavia, anche in questo caso, spesso si giudica con il vantaggio di avere delle informazioni che l'operatore in questione non aveva.
Il problema del linguaggio prescrittivo è simile al problema del ragionamento contraddittorio: se si giudica a posteriori usando informazioni che non erano disponibili alle persone coinvolte durante l'evento imprevisto, non si comprende il ragionamento che ha portato gli operatori ad adottare determinate azioni in quel momento.
Trappola 4: Ragionamento meccanicistico
Il termine ragionamento meccanicistico si riferisce al concetto per cui un determinato risultato può essere dedotto dall'intervento. A volte è definito sindrome dei ragazzini impiccioni (termine coniato da Jessica DeVita) sulla premessa che "Il sistema avrebbe funzionato correttamente... se non fosse stato per quei ragazzini impiccioni”.
Quando si usa il ragionamento meccanicistico nell'analisi successiva a eventi imprevisti, si giunge alle conclusioni sulla falsa idea che i sistemi in uso funzionino correttamente e, se quei "ragazzini impiccioni" non avessero compiuto determinate azioni, non si sarebbe verificato l'errore.
I sistemi, però, non funzionano così.
Per illustrare questo punto, si immagini lo scenario seguente: Una persona lavora in un servizio di produzione. Gli viene detto che non può toccare o eseguire delle operazioni in quel servizio. Tutto all'esterno del team continua a funzionare come prima: i clienti continuano a usare il servizio, le dipendenze esterne continuano a cambiare, Internet funziona normalmente.
Questa persona non può apportare alcuna modifica al codice o alla configurazione, non può eseguire distribuzioni, non può fare operazioni sul piano di controllo, non può fare niente.
Dopo un giorno il servizio continuerà a funzionare ancora correttamente? Dopo una settimana? Dopo un mese? Dopo un anno? Per quanto tempo il servizio potrebbe realisticamente continuare a funzionare senza l'intervento umano? Nella maggior parte dei casi, non funzionerebbe.
Questo esercizio di ragionamento conduce a un'importante conclusione:
La capacità adattiva umana è necessaria per mantenere i sistemi operativi e in esecuzione.
L'unico motivo per cui i sistemi rimangono operativi e in esecuzione è per via delle azioni compiute dagli operatori nel ciclo di controllo. È solo attraverso l'intervento dell'uomo e la sua capacità di adattarsi alle circostanze mutevoli che il sistema continua a funzionare.
Pertanto, è errato concludere che il sistema "fondamentalmente funzionava... se non fosse stato per quei ragazzini impiccioni". Infatti, l'affidabilità del servizio non è indipendente dagli operatori che lavorano con esso. Al contrario, è un risultato diretto del lavoro svolto quotidianamente dagli operatori.
Il problema del ragionamento meccanicistico è che porta a pensare che trovare la persona che ha sbagliato equivalga a trovare il problema. Tuttavia, la stessa persona che ha sbagliato ha dovuto improvvisare e adattarsi per far funzionare il sistema per settimane e mesi. Questo ruolo è molto importante e dovrebbe essere preso in considerazione nella revisione post-evento imprevisto.
Ora che si sa cosa evitare durante una revisione post-evento imprevisto, è possibile passare all'unità successiva in cui vengono esaminate alcune delle procedure utili per le revisioni.