Biais d’automatisation
En anglais : Automation bias
Le biais d’automatisation consiste à faire trop confiance aux suggestions des systèmes automatiques, comme le GPS, le correcteur orthographique ou les alertes d’un logiciel, même quand elles sont fausses. On peut alors ignorer les informations contraires ou cesser de vérifier le travail de la machine.
Au quotidien
Un automobiliste suit son GPS sur une route barrée jusque dans un creux inondé, malgré les panneaux qui signalent un problème.
Vous validez la note de frais d’un collègue parce que le logiciel de comptabilité n’affiche aucun avertissement, sans remarquer une note d’hôtel manifestement dix fois trop élevée.
Pourquoi votre esprit fait ça
Nous avons rarement toutes les informations sur une personne ou une situation, alors le cerveau comble les vides avec ce qui vaut d’ordinaire pour des cas semblables. S’appuyer sur des catégories, des règles empiriques et des sources de confiance fait gagner énormément de temps et d’efforts. Pendant la plus grande partie de l’histoire, suivre le groupe et se fier aux anciens expérimentés était un pari sûr.
Sa famille, en 30 secondes : Stéréotypes
Comment le repérer
Remarquez quand vous acceptez un résultat surtout parce qu’un ordinateur ou une appli l’a produit.
Comment y faire face
Vérifiez rapidement la vraisemblance de tout résultat automatique, par exemple en estimant d’abord vous-même la réponse.
Même famille : Stéréotypes
SourcesSkitka et al. (1999)·Wikipedia