Selon l’ancienne loi juive, quand un suspect était déclaré coupable par l’ensemble des juges, il était finalement innocenté et acquitté.
Parce que l’unanimité augmente les risques d’erreurs systémiques dans un processus judiciaire, même si personne n’a encore trouvé cette erreur.
Parfois, plus les acteurs sont d’accord, pire est la décision.
Le paradoxe du consensus
Le paradoxe du consensus est un phénomène contre-intuitif. Prenons un exemple : si vous lancez une pièce en l’air 100 fois et qu’elle tombe 65 fois sur Face, vous pouvez raisonnablement supposer qu’elle est truquée. Si elle tombe 90 fois sur Face, il n’y a plus aucun doute possible.
Quand toutes les données pointent dans la même direction, il y a un loup quelque part.
Quand un président est élu à l’unanimité, vous devez supposer que le vote a été truqué. Dans une démocratie saine, le fait qu’un président soit élu avec une petite marge est une bonne chose : ça veut dire que l’intégrité de la démocratie a été préservée.
Ce paradoxe se produit plus souvent qu’on ne le pense. Le consensus doit être accepté seulement quand la réponse est évidente et ne laisse aucune place à l’interprétation.
Si vous devez identifier une pomme dans un panier de bananes et que tout le monde identifie correctement la pomme, vous pouvez avoir confiance dans le consensus. Mais quand la solution est ambiguë, ne faites pas confiance à des données parfaites. Des résultats scientifiques doivent être confus parce que la vie est confuse. Si vos résultats sont trop beaux pour être vrais, les chercheurs ont probablement choisi les données de manière trop sélective – une des conséquences du biais de confirmation.
Trop beau pour être vrai
Entre 1993 et 2008, la Police de différents pays d’Europe a trouvé les mêmes échantillons d’ADN féminin sur plusieurs scènes de crime, sans jamais trouver le coupable. En France, Allemagne et en Autriche, ce mystérieux tueur souvent désigné sous le nom de « femme sans visage » aura sévi plus de 15 fois.
Et pourtant, les preuves étaient aussi nombreuses qu’accablantes. Mais surtout, elles étaient incorrectes. En 2009, le pot aux roses est découvert : les cotons-tiges utilisés pour collecter les échantillons d’ADN sur une scène de crime provenaient tous de la même usine, et avaient été accidentellement contamines par la même employée.
Le plus important n’est pas forcément de savoir où est l’erreur, mais de savoir qu’elle existe.
Une leçon que j’ai durement apprise dans ma boîte.
On développe des algorithmes de machine learning pour parier sur le foot en ligne. À chaque fois qu’un nouveau modèle nous a donné des super résultats à l’entraînement (les milliers de matchs qu’il reçoit en entrée), pendant la validation (des données que le modèle n’a pas vues pendant l’entraînement) et surtout en backtest (où on simule la réalité), il y avait une erreur quelque part qui biaisait les résultats.
Mais la première fois, on n’a pas réussi à la trouver, alors on a lancé le modèle en prod. Et ça n’a pas raté, on s’est pris une énorme cartouche. Maintenant, c’est quand tous les signaux sont au vert qu’on est le plus sceptique.
L’unanimité est surestimée
Dans les grosses boites, on a tendance à privilégier les décisions unanimes. Si tout le monde n’est pas d’accord, le reste du comité va essayer de convaincre les sceptiques. C’est une mauvaise idée. D’une, parce que vous perdez du temps ; de deux, parce que vous devez accueillir et valoriser les opinions contraires, pas les supprimer.
Acceptez les différences et notez les désaccords quand ils arrivent. Un désaccord n’est pas forcément négatif, c’est souvent le signe d’un processus de décisions sain. Les pires décisions sont prises quand la pensée de groupe pointe son nez.
Si tout le monde pense pareil, personne ne pense vraiment.
La diversité comme antidote
Pour éviter ce problème, ajoutez de la diversité.
Attention, quand je parle de diversité ici, je parle au niveau cognitif, pas de géographie/genre/orientation politique, etc.
Si vos employés/collègues viennent des quatre coins du monde, mais qu’ils partagent les mêmes croyances que vous, vos points de vue ne seront pas différents. S’ils ont des profils différents, mais qu’ils pensent tous pareil, certes, c’est excellent pour les RH, mais pas pour vos résultats.