Illusion de connaissance et confiance en soi

"L'ennui en ce monde, c'est que les imbéciles sont sûrs d'eux et les gens sensés plein de doute" (Bertrand Russell)

Dans l'article précédent, j'ai montré comment nous avons naturellement tendance à sous-estimer la complexité du monde. Non contents de simplifier outrageusement des questions qui ne relèvent absolument pas du "bon sens", de l'évidence ou de l'intuition, nous avons également tendance à sur-estimer le niveau de confiance que nous avons en nos intuitions.

C'est dans le monde professionnel que les exemples du biais de simplification sont les plus flagrants. Nous avons tous pu entendre des phrases qui commencent par "Il n'y a qu'à" (faire ceci ou cela) ou "Faut qu'on" (fasse ceci ou cela), ou "Il suffit de". C'est même devenu un gimmick du monde du travail.


En général, on associe ce gimmick à des managers, des financiers, des entrepreneurs ou des hommes politiques, mais inutile de se faire d'illusions, personne n'y échappe, puisque c'est le mode de fonctionnement normal de notre cerveau.

Chez les financiers, on trouve, par exemple, ceux qui croient en la délocalisation (un salaire indien est plus faible qu'un salaire d'un employé français donc "y'a qu'à embaucher des indiens"). Ce faisant, ils ignorent tout l'écosystème de l'entreprise, les frottements entropiques de la synchronisation intercontinentale, le décalage horaire, la communication longue distance et interculturelle, etc. bref tous les coûts cachés. Ce mode de pensée nous semble risible tellement il est simpliste, mais il est pourtant courant chez des gens ayant un niveau d'éducation et d'expertise dans leur domaine plutôt élevé.

Par exemple, les directeurs financiers (des grandes entreprises américaines) pensent qu'ils sont bien placés pour prédire l'évolution de l'indice Standard & Poor's de l'année suivante avec un bon niveau de confiance. Pourtant, une étude de l'université de Duke portant sur 11600 de ces prédictions montre clairement que non seulement ce n'est pas le cas (le niveau de corrélation entre leurs prédictions et la réalité est légèrement négatif!), et qu'en outre ils sous-estiment gravement leur marge d'erreur. (1)

L'histoire du crash de la navette "Challenger" constitue également un excellent exemple de l'illusion de connaissance, du biais d'idéalisation et de surestimation de taux de confiance (2): une étude montre qu'une des causes du crash (mais évidemment pas la seule) provient du fait que les managers demandèrent aux ingénieurs de fournir la preuve que la température, froide le jour du décollage, inférieure à celle des tests, posait un problème sur les joints (ceux qui sont à l'origine du crash).

Les ingénieurs ne purent évidemment pas apporter cette preuve, puisqu'ils n'avaient pas mené les tests à ces températures. Les managers ont associé la non-preuve de problème avec la preuve de non-problème.
Une annexe de la commission d'enquête, menée par le physicien Richard Feynman, relève que l'estimation de probabilité d'une défaillance de la fusée était de 1 pour 100 chez les ingénieurs, alors qu'elle était de 1 pour 100 000 chez les managers, ce qui est une probabilité irréaliste pour le lancement d'une fusée.
Ce niveau de confiance exagéré a joué un rôle dans la demande des managers aux ingénieurs de fournir une preuve de risque, ce que Christian Morel illustre par la remarque suivante: si j'ai un doute quant à la fraîcheur d'une mayonnaise, j'aurais tendance à la jeter, mais si j'ai toute confiance en la fraîcheur de la mayonnaise, je vous demanderai de m'apporter la preuve qu'elle n'est pas bonne.

Les ingénieurs ne sont pas exempts du biais d'idéalisation : s'ils n'avaient pas mené les tests à ces températures, c'est parce que le centre de lancement est situé en Floride et que les ingénieurs de l'entreprise qui a conçu les joints (Morton Thiokol, entreprise située dans l'Utah), supposant qu'il faisait toujours chaud en Floride (un cliché grossier et d'ailleurs erroné), ne prirent pas la peine de faire des tests à moins de 12°C (il suffit pourtant de consulter les relevés météorologiques). Ils avaient associé le cliché de la Floride à la réalité de la Floride.

Une expérience de psychologie menée par Philippe Tetlock sur 284 "experts", dont la profession est de commenter et donner des conseils sur les tendances politiques et économiques, a montré que, sur 80 000 prédictions, celles-ci étaient aussi bonnes que s'ils avaient assigné des probabilités équivalentes à chaque événement. Autrement dit, elles ne valaient pas mieux que le pur hasard. De plus, il a noté que ces "experts" faisaient généralement preuve d'une confiance en eux irréaliste, c'est à dire qu'ils sont plus sûr d'eux, et du coup, moins fiables que des non-spécialistes qui assortissent leur prédictions d'un niveau de confiance moins élevé. Autrement dit, les experts sont souvent plus sûrs d'eux, mais pas meilleurs que des non-spécialistes, notamment dans les domaines économiques, sociaux ou politiques.

Le principal biais des experts ou des "spécialistes" provient du fait qu'ils se focalisent sur le domaine qu'ils connaissent le mieux (leur spécialité), et sous-estiment totalement les domaines adjacents, qu'ils connaissent moins bien (ce que ne fait pas un "généraliste").

Ce biais s'appelle la "dépendance au domaine" (3) et s'illustre parfaitement dans les réponses qu'ils font à Tetlock, lorsqu'il leur démontre qu'ils se sont trompés : D'après eux, s'ils se sont trompés c'est parce qu'un événement "imprévisible" est intervenu.
L'événement "imprévisible" pour eux, ne l'était pas forcément pour un autre expert du domaine adjacent ou pour quelqu'un qui serait plus "généraliste"...
En définitive, l'expert sait beaucoup de choses mais moins que ce qu'il croit savoir, surtout dans des domaines ou la complexité est telle qu'elle conduit inévitablement à la segmentation du savoir.

Cette dépendance au domaine, cette focalisation sur ce qu'on maîtrise s'illustre également chez les créateurs d'entreprise. Une étude menée aux USA a montré que la plupart des créateurs d'entreprises sous-estiment grandement les facteurs externes comme cause d’échec (par exemple la probabilité de se faire doubler par une autre entreprise dans le même domaine, ou la probabilité d’un changement de comportement des utilisateurs ou la probabilité d’émergence d’une nouvelle technologie qui révolutionne le marché).

Un autre exemple de taux de confiance irréaliste est celui des médecins. Une étude menée sur des patients morts aux urgences a comparé les résultats d'autopsie et les diagnostics des médecins quand les patients étaient encore vivants. Les médecins qui étaient "tout à fait certains" de leur diagnostic avant la mort avaient tort dans 40% des cas. (1)
Le comportement des médecins est évidement renforcé par la pression sociale: que penseraient les patients d'un médecin qui n'a pas l'air sûr de lui et qui avoue que son diagnostic vaut à peine mieux que le hasard?

Pour couronner le tout, nos modèles cognitifs simplistes et la confiance que nous leur accordons se renforcent s'ils sont confirmés par une personne qui nous fait une "bonne" impression. Par exemple, si je vous trouve beau, ce que vous direz me paraîtra plus vrai que si vous êtes moche. Ca me paraîtra également plus vrai si vous êtes un "expert" et si vous avez l'air sûr de vous. Autrement dit, les gens beaux, sûrs d'eux et experts d'un domaine sont plus crédibles que les autres, mais pas nécessairement plus fiables et potentiellement plus dangereux, car ils ont tendance à surestimer leur niveau de connaissance et nous aussi.

Sources:
(1) "Système 1/Système 2" - Daniel Kahneman
(2) "Les décisions absurdes" - Christian Morel
(3) "Antifragile" - Nassim Nicholas Taleb