dimanche 16 novembre 2014

Le piège cognitif de l'induction

Lundi soir, pour les commémorations du 11 novembre, France 2 a passé des extraits de la vie de la célèbre scientifique Marie Curie. Dans l'un de ces extraits, on la voit aider un médecin à extraire la balle du corps d'un soldat en donnant des indications sur la position de la balle avec une photo où l'on voit la balle et le squelette à travers le corps du soldat.
Les rayons X et la radiographie ont été découverts en 1895 par Wilhelm Röntgen et la technique radiographique est donc relativement récente. A côté d'elle, un figurant, voyant les radiographies, s'exclame: "C'est magique!".
Ce à quoi l'actrice figurant Marie Curie répond: "Mieux! C'est scientifique!"
J'ai déjà évoqué le sujet dans l'introduction de la saison 2 de ce blog: La science a quelque chose de magique qui fait qu'on pourrait la croire infaillible. Pourtant, la connaissance scientifique recèle une faille logique peu connue, ou volontairement ignorée: l'induction.

En logique, l'induction est un raisonnement inverse de la déduction qui vise à aller du particulier au général en accumulant des observations empiriques. Pour fixer les idées, en voici un exemple très classique que vous avez sûrement déjà entendu:

Raisonnement déductif: tous les hommes sont mortels (cas général). Socrate est un homme (cas particulier). Donc Socrate est mortel.

Raisonnement inductif: tous les hommes du passé sont morts (ensemble de cas particuliers). Donc tous les hommes sont mortels. (Cas général)

Le raisonnement inductif, caractérise l'ensemble des sciences (mêmes les plus dures comme la physique ou les mathématiques (1)): on procède en observant un certain nombre de faits expérimentaux et on en tire une théorie générale.
Mais ce type de raisonnement a un problème fondamental qui a été exploré par plusieurs philosophes parmi les plus célèbres comme David Hume, Bertrand Russel, Thomas Kuhn ou Karl Popper (voir des nuages et des horloges).
Ce problème a été re-popularisé très récemment par le philosophe Nicholas Nassim Taleb (2):
En Europe, jusqu'au 19ème siècle, on n'avait jamais vu de cygne noir, et chaque nouveau cygne rencontré renforçait la croyance que "tous les cygnes sont blancs", de sorte que ce fait était tenu pour acquis. La découverte de cygnes noirs en Australie au début du siècle a provoqué l'effondrement brutal de cette croyance.
De la même manière, en astronomie, science parmi les plus dures et les moins entropiques, on a pu démontrer que la stabilité du système solaire n'est que temporaire (à l'échelle astronomique) et que la terre ne tournera pas éternellement autour du soleil, car le mouvement des planètes, qui nous apparaît stable et régulier est en fait fondamentalement incertaininstablechaotique et divergent.

Sous l'angle de la logique pure, le raisonnement inductif n'a non seulement aucun sens, mais en plus il nous conduit à des croyances erronées:
Plus je vois de cygnes blancs et plus je suis renforcé dans ma croyance que tous les cygnes sont blancs.
Pour un logicien, la proposition "Tous les cygnes sont blancs" est strictement équivalente à "Tout ce qui n'est pas blanc n'est pas un cygne". Donc, suivant le raisonnement inductif, et suivant une logique implacable, si je vois une voiture rouge, cela devrait me renforcer dans ma croyance que tous les cygnes sont blancs! (2)

La méthode scientifique a donc une faille génétique: tant qu'aucun fait ne vient réfuter une théorie, la répétition de faits concordants avec la théorie, augmente la confiance que l'on a dans cette théorie, sans qu'on puisse toutefois jamais la tenir pour certaine.

L'induction a donc cette propriété particulière que plus l'on fait d'observations répétées qui confirment la loi, et plus notre foi dans cette loi augmente.
Mais il est remarquable que bien que ce raisonnement soit, par nature, probabiliste, il est toutefois impossible d'évaluer la probabilité.
En effet, si on connait un nombre de cas croissant confirmant une théorie, on suppose que la probabilité de véracité de la théorie augmente par rapport au nombre de cas total qu'on ne connaît pas.
Autrement dit, la probabilité est un nombre connu sur un nombre inconnu (et qui peut évoluer)

L'induction génère donc des croyances dont le niveau de confiance augmente avec le nombre de cas observés et avec le temps. De plus:
  • Tant qu'on observe des cas compatibles, la croyance a tendance à se renforcer, 
  • Tant qu'on n'observe pas de cas contradictoire, la croyance a tendance à se renforcer, 
  • Tant qu'on n'observe rien, la croyance a tendance à se renforcer ("ça a toujours été comme ça")
  • Au fil du temps, les quelques cas contradictoires qui se font jour ne suffisent généralement pas à renverser le paradigme, jusqu'à ce qu'ils soient en nombre suffisant pour qu'une nouvelle théorie plus précise renvoie la croyance précédente dans le domaine des théories approximatives. (3)
Nassim Nicholas Taleb décrit ce problème avec l'exemple très parlant de la dinde.
La période d'élevage d'une dinde dure environ 1000 jours, période au terme de laquelle la dinde passe à la casserole. Chaque jour qui passe renforce la croyance de la dinde en la bonté de l'être humain qui la nourrit. Sa certitude se renforce jour après jour et notez bien qu'au millième jour, cette croyance n'a jamais été aussi forte! (voir courbe ci-dessous)

Cet exemple est une belle illustration du problème de l'induction: nous construisons des modèles, des théories concernant la nature pour tenter de la comprendre. Ces théories s'appliquent... jusqu'à ce qu'elles ne s'appliquent plus...

L'apparition d'un cygne noir paraissait au 19ème siècle un événement hautement improbable, de même que la cruauté de l'être humain vis à vis de la dinde après 1000 jours!

Est-ce pour autant que la confiance que nous accordons aux découvertes scientifiques est irrationnelle et injustifiée ?

Non, car la spécificité de la démarche scientifique est de générer des propositions réfutables et de rechercher activement à les réfuter. En effet, s'il est difficile de prouver que tous les cygnes sont blancs, il suffit d'un seul cygne noir pour démontrer que tous les cygnes ne sont pas blancs.
D'après Karl Popper, c'est justement le propre de la méthode scientifique que de ne jamais s'arrêter de chercher un contre-exemple à la théorie, opérant par la même une sorte de sélection Darwinienne des idées et des théories (4).
C'est même ce qui caractérise cette démarche (d'où le débat actuel sur la théorie des cordes, qui, pour l'instant ne génère pas de propositions réfutables).
L'astrologie ne génère pas de propositions réfutables, c'est pourquoi elle ne peut, par essence, prétendre au statut de science. Etant donné qu'à chaque tentative, elle a échoué, je dirais même qu'elle ne peut prétendre au statut de quoi que ce soit d'autre que de divertissement (ce qui n'est certes pas totalement négligeable).

De la même manière, lorsque les institutions de la religion catholique ont voulu prendre la bible dans un sens littéral, elles ont fait entrer leurs croyances dans le champ des propositions réfutables (donc de la méthode scientifique) et leurs propositions ont été réfutées (créationnisme, géocentrisme etc.).

Mais pour adopter la démarche la plus rigoureuse possible face au problème de l'induction, la science est contrainte d'appliquer strictement le principe du Rasoir d'Ockham. Ce principe, appelé également "Principe de simplicité ou d'économie" consiste, quand on a le choix, à adopter l'hypothèse la plus simple possible pour expliquer un phénomène. Il permet de faire l'économie de débats sans fin sur des questions irréfutables, comme "Dieu est-il plutôt rond ou carré ?" et d'éviter d'avoir à démontrer que les licornes n'existent pas, de même que les fées et les elfes.

Pour faire partie officiellement du corpus des connaissances scientifiques, toute théorie doit pouvoir produire des propositions réfutables. C'est une position de principe, pour garantir la rigueur de la méthode scientifique. Par économie, ce principe nie l'existence d'objets dont l'existence est indémontrable ou non encore démontrée.

En matière religieuse, un exemple célèbre tient dans la réponse de Laplace à Napoléon à propos de l'existence de dieu: "Citoyen, je n'ai pas eu besoin de cette hypothèse". Si dieu est une hypothèse surnuméraire, il ne peut pas, formellement, faire partie du corpus des théories scientifiques, mais il reste néanmoins deux possibilités: soit la position athée (si je n'ai pas besoin de cette hypothèse, c'est qu'il n'existe pas), soit la position agnostique (je n'ai pas besoin de cette hypothèse et je ne peux rien en dire). Le principe du rasoir d'Ockham consiste à adopter la position "athée", puisque c'est la plus simple possible.

Historiquement, ce principe fondamental en science explique les nombreux conflits avec la religion qui, par définition, demande au gens de croire en quelque chose d'inconnu. Evidemment, au niveau personnel, les scientifiques sont tout à fait libres de croire que dieu ou les licornes résident dans l'inconnu, mais ils ne peuvent cependant y faire appel dans un raisonnement scientifique.

Dans la vie de tous les jours, il conduit les scientifiques à adopter l'une des positions suivantes pour faire face à l'inconnu:
  • La position athée, que j'appellerai "sceptique négative": C'est la position du philosophe Bertrand Russel qui l'illustra avec l'exemple de la Théière de Russel: tout ce qui n'est pas démontré est faux jusqu'à preuve du contraire. On ne peut admettre dans le corpus théorique de propositions n'ayant pas été démontrées, et on doit donc partir du principe qu'elles sont fausses: les licornes n'existent pas, de même que les cygnes noirs (tant qu'on n'en a pas vu).
  • La position agnostique, que j'appellerai "sceptique pure": L'inconnu, c'est l'inconnu. On ne peut rien en dire. Il vaut mieux d'ailleurs ne rien en dire, car dire que quelque chose n'existe pas est aussi faux que de prétendre que ce quelque chose existe. Nier l'existence d'une proposition indémontrable (ou non encore démontrée) est une croyance qui induit une idée fausse de la réalité. En somme, les licornes existent peut-être, de même que les cygnes noirs. Evidemment, cette position est tout sauf populaire dans une époque comme la nôtre, en quête de certitudes scientifiques.
Du point de vue logique, seule la position deux (agnostique), est pourtant réellement rationnelle. La position une (l'athéisme) est davantage une position politique de la communauté scientifique, visant à combattre les élucubrations chronophages et les dogmatismes religieux (voir le culte des Licornes Roses Invisibles, le Monstre en Spaghettis Volant, ou le culte du canard en plastique jaune de Leo Bassi).

La méthode scientifique est donc une heuristique efficace et rigoureuse pour découvrir comment fonctionne la nature (ou plutôt: comment elle ne fonctionne pas!). Elle est plus efficace et rigoureuse que les méthodes intuitives ou les croyances traditionnelles, mais elle n'en reste pas moins une heuristique. La connaissance scientifique est donc un objet ouvert, sujet au débat perpétuel et qui est faite davantage pour poser des questions que pour donner des réponses.

Si quelqu'un affirme donc que "c'est scientifique!" pour vous convaincre que quelque chose est vrai, soyez assuré qu'il n'est pas un vrai scientifique (prenez ça comme aussi vrai que s'il vous disait que c'est vrai parce qu'il l'a vu à la télé).

N'oublions donc pas que la confiance que nous avons dans la science vient de sa méthode rigoureuse, mais que la connaissance scientifique en elle-même n'est pas figée (c'est l'inverse d'un dogme).

La confiance que nous accordons à la connaissance scientifique serait-elle donc exagérée ?

Oui sûrement. La confiance que nous accordons à la connaissance scientifique est de même nature que celle que nous accordons au départ à nos raisonnements intuitifs: elles constituent toutes deux un point de départ, et non une vérité définitive. Elles sont faites pour être remises en cause (surtout si on est scientifique).

Un problème social, conséquence de notre habitude de raisonner par induction et de l'extrapolation abusive des modèles scientifiques, apparaît lorsque des décideurs simplistes, pseudo-scientifiques, et se croyants rationnels, agissent en fonction de ce niveau de confiance exagéré, en oubliant de prendre en considération la possibilité d'un effondrement du raisonnement inductif.

Tel a été, pour Nassim Taleb, le type de raisonnement fallacieux des économistes, des financiers, des responsables des banques, des assurances et du président de la FED (la banque fédérale américaine) pendant la période qui a précédé la crise financière de 2009, et qui a amené tout ce beau monde à se conduire comme la susdite dinde en supposant que ce qui avait fonctionné jusque-là continuerait sans doute à fonctionner...

Sources:
(1) Poincaré - La science et l'hypothèse
(2) Nassim Nicholas Taleb - Le cygne noir
(3) Thomas Kuhn - La structure des révolutions scientifiques
(4) Karl Popper - La connaissance objective

2 commentaires:

  1. Sur l'économie (dernier chapitre), c'est très particulier. Ce type de conjoncture où tout les acteurs pensent se trouver face à un "nouveau paradigme" se retrouve de façon (très) régulière dans l'Histoire. "Oui normalement, la pomme devrait se casser la g... mais là NON parce que ...". Mais contrairement à la science, la vraie (dans laquelle il y a aussi des intérêts persos, notamment d'égo), ici tous les acteurs sont aussi parties prenantes, c'est déjà le premier problème. De nombreux acteurs (à commencer par le président de la Fed et le président des US mais aussi les banquiers, assureurs, etc etc) ont tout intérêt à maintenir l'illusion le plus longtemps possible : même si le charme se rompt au bout de 5 ans, ils auront eu suffisamment de bonus pour s'en tirer royalement (ce qui n'est pas le dernier problème du système actuel). Les Cassandre ont aussi du mal à se faire entendre car il y a suffisamment de crises pour que, quand tout le monde a l'impression que ça n'est pas la crise, on veuille la faire fermer à celui qui dit le contraire. Quand les proprios immos voient leur maison prendre (virtuellement) le double de sa valeur, a-t-il envie d'entendre que tout ça n'est qu'une illusion ? non ... "you gotta dance til the music stops" (citation d'un banquier en 1930). Tout ce petit monde (nous compris) n'a rien de scientifique quand il en est de sa situation personnelle, de son épargne, de sa réputation (journaliste), etc etc
    Pour la simplicité, il me semble aussi qu'Einstein disait "il faut faire le plus simple possible, mais pas plus simple que ça". Economie max, mais pas plus, sinon ...
    Pour ce qui est des deux positions (athée ou agnostique), et justement quelque part en rapport avec la religion, il y a quand même un exemple flagrant.
    On ne peut PAS démontrer que l'Homme est mortel. On peut très aisément démontrer que les Hommes ne sont pas tous immortels. Jusque-là, tous les Hommes sont morts, ce qui nous laisse fortement à penser qu'effectivement, nous allons tous y passer. Néanmoins, personne, à mon sens, n'a démontré qu'il n'était pas possible qu'un Homme vive jusqu'à 200, 500, 1.000, 10.000 ans (oublions l'infini, on peut à peu près démontrer la durée de vie de notre Soleil donc ...). Donc :
    - inférence : on va tous mourir
    - athée : la mortalité intrinsèque de l'Homme et sa longétivité max de 120 ans communément admises ne sont pas démontrées donc elles n'existent pas. Jusqu'à preuve du contraire, je peux me préparer à toucher ma retraite jusqu'à 220 ans
    - agnostique : je sais pas, possible qu'on meurt, possible que non ...

    Donc en fait, on est peut être dans le cas de la Dinde inversée ... nous nous résignions à notre sort de mortel à cause d'une inférence outrageusement prolongée alors que la mort va peut-être cesser (avec le réchauffement climatique, changeant les conditions entropiques du corps) prochainement ! non ? non ...
    Et là le rasoir d'Ockham nous aide assez peu : quelle est la position la plus simple ? hhuum difficile de faire l'économie d'un débat aussi crucial pour nous non ?
    Un cas marrant aussi (qui montre peut-être les limites de ces positions quand ça touche aux fondements de l'Homme) ce sont les extra-terrestres. Notre absence de rencontres avec des petits hommes verts devrait avoir ancrée une longue croyance que ça n'existe pas. Et ben non ... Et la position athée devrait nous dire "non ça n'existe pas" et l'économie de moyens (au sens propre du terme ...) "non plus". Et pourtant, le mythe de nos cousins aliens est très répandu même chez les scientifiques, soit qu'ils y croient soit pour vendre des beaux projets (faut faire rêver un mini pour vendre des projets à plusieurs Mds€ donc soit c'est les origines de l'Humanité soit ET ....)

    RépondreSupprimer
    Réponses
    1. "On est peut être dans le cas de la Dinde inversée": excellent! :-)

      Supprimer