Comment éviter les mauvaises surprises

À la fin des années 1950, dans l’optique d’une campagne anti-malaria, l’OMS a commencé à pulvériser du DDT (un insecticide) pour éradiquer les moustiques au nord de l’île de Bornéo.

Au début, tout s’est passé comme prévu. Les cas de malaria ont diminué.

Mais à force de se lécher les poils, les chats de l’île ont été empoisonnés par le DDT pris dans leur fourrure. Privés de leur ennemi public numéro un, les rats ont pu se reproduire, favorisant la propagation des maladies comme le typhus et la peste.

Et l’OMS a dû envoyer de nouveaux chats par avion à Bornéo pour inverser les dégâts causés par leur campagne.

La pensée du second ordre

Nos actions peuvent avoir plusieurs niveaux de conséquences. Le premier est volontaire – c’est l’objectif recherché – les suivants ne le sont pas.

La pensée du second ordre sert à anticiper ces niveaux successifs :

Quels seront les résultats dans un an, cinq ans, dix ans ?
Que se passe-t-il si l’exact opposé de ce qui est prévu arrive ?

Ces conséquences inattendues et indésirables sont difficiles à anticiper. Dans des environnements complexes, il n’est pas toujours possible de prévoir les effets de nos actions. D’où l’importance d’analyser non seulement les conséquences de nos actions, mais aussi les conséquences de ces conséquences.

Ces conséquences involontaires ont l’air mystérieuses, mais le terme involontaire est trompeur : c’est une excuse facile pour cacher un manque de lucidité.

Il existe toujours des conséquences, visibles ou non.

Elles ne sont d’ailleurs pas forcément négatives. La Tour de Pise est un exemple qui a bien tourné : personne n’avait imaginé qu’une erreur de construction aussi grossière finirait pas attirer des centaines de milliers de visiteurs chaque année.

Une conséquence involontaires est seulement une conséquence que personne n’avait vue venir. En mettant à jour nos modèles mentaux, on peut identifier leurs causes potentielles.

Attention aux raisonnements fallacieux

1. Excès de confiance : On a une confiance aveugle dans les modèles prédictifs, mais la carte n’est pas le territoire. Vous devez comprendre le modèle mais aussi le terrain sur lequel il est basé.
   
2. Biais du survivant : Les conséquences involontaires apparaissent quand on ne considère pas toute l’information disponible. On se focalise uniquement sur les exemples où le résultat désiré a été obtenu, en négligeant les autres.
   
3. Interventionnisme naïf : Personne n’aime rester assis à ne rien faire, on est biaisé vers l’action. Mais ne rien faire est parfois la meilleure chose à faire, comme en finance ou en médecine (effets iatrogènes).
   
4. Incapacité à considérer les taux de bases : Partez toujours des taux de bases avant de prendre une décision.
   
   Ex: Tom est un passionné d’opéra qui aime visiter les galeries d’art en vacances. Petit, il aimait jouer aux échecs avec sa famille et ses amis.
   
   Quelle réponse est la plus probable ?
   
   A. Tom joue du violon dans un orchestre symphonique professionnel.
   B. Tom est agriculteur.
   
   Vous avez répondu A en vous basant sur les détails de la description ? Sachant qu’il y a environ 1.000 violonistes professionnels en France, et presque d’un million d’exploitants agricoles, Tom a en réalité 0,1% de chances d’être violoniste professionnel et 99,9% de chances de travailler dans l’agriculture.

Les modèles mentaux comme antidote

On ne peut pas toujours éliminer ces conséquences involontaires, mais on peut s’y préparer. Avoir à disposition une liste de modèles mentaux est un bon point de départ :

• Inversion : Focalisez-vous sur ce que vous voulez éviter, pas ce que vous espérez obtenir. Plutôt que de chercher la perfection à tout prix, évitez la stupidité.

• Réfutabilité / falsification : Au lieu de chercher les informations qui confirment vos croyances, efforcez-vous de chercher celles qui les contredisent. La crise financière de 2008 est un cas d’école de biais de confirmation.

• Cercle de compétence : Quand on sort de notre cercle de compétence, on augmente le risque des conséquences involontaires. Si vous décidez de réparer votre chaudière sans consulter de plombier, vous risquez d’aggraver le problème. Quand l’OMS décide de pulvériser du DDT à Bornéo, la connaissance de l’écosystème local ne fait pas partie de son cercle de compétence.

***

Les conséquences involontaires arrivent par manque de discernement. L’enfer est pavé de bonnes intentions, de gens qui n’ont pas pris le temps de réfléchir aux effets du second ordre. Mais les bonnes intentions importent peu ; souvent, seuls les résultats comptent.

La prochaine fois que vous aurez une décision à prendre, prenez le temps d’identifier les effets du second ordre. Ça vous évitera d’avoir à hélitreuiller des chats sur une île.