Efficacité et identité des mathématiques

Eugen Wigner nous a laissé une formulation qui continue d’impressionner les esprits : dans un bref article, il parle de la « déraisonnable efficacité des mathématiques dans les sciences de la nature ».

Wigner s’émerveille, donc, que depuis Galilée nous ayons si souvent fait l’expérience que les connaissances mathématiques sont utiles à la physique, que les conceptions mathématiciennes les plus improbables trouvent un “débouché” dans tel ou tel aspect de la science conquérante.

Mais va-t-il de soi de regarder comme “déraisonnable” le succès des mathématiques ? Il y a au moins une perspective qui paraît empêcher d’éprouver un tel sentiment : celle selon laquelle les nombres, dont traite la mathématique, sont l’essence de toute réalité. Si tel est le cas, en effet, nous n’avons pas à nous étonner. Maîtriser les objets mathématiques, c’est maîtriser le matériau dont tout réel est fait. Par suite il n’est pas mystérieux que les théories mathématiques disent avec vérité la logique du monde.

Or cette idée que les mathématiques sont de plein droit la théorie épurée du fond de l’être, que l’harmonie mathématique est le liant même de la complexité du réel, correspond à une puissante tradition connue des philosophes.

Sans doute, ce qui parle le plus dans ce sens auprès de nous, encore aujourd’hui, est la conception pythagoricienne voyant dans les nombres entiers, leur distribution et leur structure, le secret de l’équilibre du monde et de l’expression musicale de celui-ci. Mais cette conception diffuse dans la philosophie sous plusieurs visages.

Un moment important à cet égard est le dialogue Timée de Platon, dérivant le monde à partir de solides élémentaires par rapport auxquels les triangles rectangles constituant la moitié d’un triangle équilatéral apparaissent comme privilégiés.

De là, on peut évidemment passer à la traduction théologique de ces vues : les entités mathématiques structurant le monde sont la trace de son créateur sublime. L’anticipation pythagoricienne se trouve ainsi expliquée : si le réel est mathématique, c’est parce que la puissance divine à laquelle nous le devons est mathématiquement inspirée. Même le Dieu de Leibniz, après tout, semble avoir choisi notre monde, parmi les mondes possibles, au nom de considérations mathématiques d’optimalité.

Il y a donc une manière, forte et traditionnelle, de ne pas s’étonner de l’efficacité des mathématiques dans les sciences de la nature : elle correspondrait à une facture divine de l’être, que nous parvenons à reconnaître dans notre science, dans la mesure où, faisant des mathématiques, nous rehaussons nos vies au niveau de celle du divin. Dans cette optique le constat de Wigner invite à ce que l’on passe au niveau métaphysique ou théologique pour sortir de l’étonnement, pour conjurer l’incompréhensible.

Tout dépend donc de notre interprétation des mathématiques, de leur monde et de leurs objets. Pour partager l’étonnement de Wigner, et regarder leur efficacité dans les sciences de la nature comme “déraisonnable”, il faut, je crois, ressentir les mathématiques et leurs objets comme typiquement “nôtres”, comme “de notre côté” : comme exprimant notre subjectivité humaine, comme caractéristiques de nos usages mentaux et symboliques.

Nous sommes ainsi renvoyés à la question : que sont exactement les mathématiques ?

Or, il n’est pas facile de répondre. La difficulté possède, à vrai dire, plusieurs aspects. Un aspect quasi-politique est que les mathématiques ne cessent de relire leur passé pour le rattacher à elles, en conservant les assertions anciennes. Ce qui est mathématique, c’est ce que la mathématique elle-même reconnaît comme son aventure dans l’après-coup. On peut penser, ici, à la réécriture de l’histoire par le stalinisme triomphant : une fois que Béria a été identifié comme espion et traître, on re-rédige toute son histoire comme exprimant un tel destin depuis le début. De même les mathématiques se réapproprient l’ancien vrai et en font un cas particulier de leurs nouvelles assertions. Cette pratique confère une unité et donne une force identitaire peu communes. On donne volontiers l’exemple simple et parlant du théorème de Pythagore, que nous lisons aujourd’hui comme la formulation classique d’une vérité qui s’énonce dans tout espace euclidien (en gros <x ;y>=0 ssi ||x+y||²=||x||²+||y||² ).

Cet exemple attire aussi notre attention sur la question de l’objet mathématique. Si les mathématiques maintiennent une identité au cours de l’histoire, c’est, néanmoins, en ne cessant de changer le visage de l’objet : les vecteurs d’un espace euclidien n’étaient pas connus d’Euclide (en dépit de l’allure paradoxale d’un tel énoncé).

La vision la plus ordinaire associe l’identité des mathématiques au thème du quantitatif : les mathématiques seraient essentiellement la discipline qui compte et calcule. Dès l’origine, la moitié géométrique proteste contre cette vision : il s’agit aussi de penser les figures et démontrer des vérités à leur sujet.

Depuis Cantor et Dedekind, nous sommes habitués à voir l’ensemble comme l’objet par excellence de la mathématique : la discipline s’occuperait de la façon dont des collections d’entités s’agencent et se combinent, sans qu’aucune hypothèse ne soit ajoutée sur les entités en cause. On est assez naturellement conduit à la vision du groupe Bourbaki, qui décrit les mathématiques comme étude des structures les plus générales et classifie celles-ci en trois types majeurs (le type algébrique, le type topologique et le type des structures ordonnées).

Cette vision, finalement, impose une conception qualitative : les mathématiques mettent en lumière les qualités spécifiques des diverses structures. Elle suggère aussi la dimension conceptuelle des mathématiques : suivant le programme bourbakiste, souvent, nous comprenons que les vérités qui pour nous émergeaient d’un calcul opaque correspondent à des propriétés dont un raisonnement droit montre qu’elles appartiennent nécessairement à des concepts pris dans un réseau de concepts.

Voir la mathématique comme science des structures nous encourage, il me semble, à la comprendre comme nôtre. Monter des structures, en se rapportant pour cela aux structures qui nous précèdent, nous encadrent et accompagnent notre vie, n’est-ce pas en effet exactement notre pratique fondamentale, en tant qu’animaux symboliques ? Le structuralisme a majoré cette vision en décrivant le plan humain comme celui du partage de symboles entrant dans des relations constituant pour nous un cadre normatif. Il voyait d’ailleurs le langage, milieu de l’exercice humain, comme la preuve la plus massive du caractère symbolique et systématique de tout ce qui nous concerne. Mais comprendre l’humanité comme originairement prise dans le tissage symbolique et la systématicité d’un tel tissage, cela n’implique-t-il pas d’interpréter les mathématiques, en tant que science des structures, comme la science par excellence de nos pouvoirs symboliques, comme la science a priori des jeux symboliques qui sont les nôtres ? Une science intéressée par leurs diverses façons de donner lieu à de la complexité.

Les mathématiques seraient, ainsi, la doctrine universelle a priori de l’articulation, articulation dont on ne sait pas si elle est celle des objets, des signes de langage ou des concepts. La formalisation des mathématiques, ramenant apparemment celles-ci à un jeu d’écriture, où l’on produit des théorèmes selon la règle de manipulation symbolique de la dérivation formelle, semble en tout cas confirmer une telle vision.

Une vision des mathématiques de la même eau nous est donnée, dans la tradition philosophique, par le criticisme kantien. Kant rattache en effet les mathématiques à la dimension intuitive, tout en révolutionnant la notion de l’intuitif de deux manières.

D’un côté, il invente la notion d’intuition pure : l’intuition d’une forme à laquelle toute intuition phénoménale devra se conformer. Nous “vivons” une intuition pure de l’espace, ce qui signifie que nous plaçons tout phénomène d’une chose externe dans quelque chose que nous apportons comme cadre, et qui est l’espace. Nous concevons par ailleurs cet espace comme l’objet d’un savoir mathématique nécessaire a priori (celui de la géométrie). La mathématique est donc le contrôle par nous de l’intuitionné étrange – antérieur à tout intuitionné particulier – qu’est l’espace.

D’un second côté, il propose une sorte de notion d’intuition imaginative, productrice de “schèmes”. Au moyen de cette notion il interprète les nombres de l’arithmétique comme la production imaginative par nous d’une transposition des relations logiques exprimant la quantité dans nos jugements. Selon sa vision, nous inventons l’égrènement de l’unité constitutif du nombre entier général, comme un scénario temporel (du genre du célèbre pom pom pom pom de la cinquième symphonie de Beethoven) “transposant” notre pensée logique de l’unité, la particularité et la totalité.

Donc à la fois la géométrie et l’arithmétique sont rapportées à un pouvoir originaire de notre intuition ou une faculté nôtre de configuration intuitive. Les mathématiques sont bien nôtres, plutôt que théologiques ou métaphysiques.

La conception kantienne ne conduit pas vraiment à une réponse à la question de Wigner, portant sur le caractère déraisonnable de l’efficacité des mathématiques. L’apport fondamental de la philosophie critique est plutôt de justifier la question elle-même, en rendant plausible une lecture “subjective” des mathématiques, en présentant celles-ci comme notre symptôme, comme notre manifestation typique, “humaine, trop humaine” oserait-on dire.

La philosophie de la connaissance kantienne, en effet, se contente de dire que ce que nous appelons connaissance – ou même plus précisément science – ne peut pas consister en autre chose qu’en le contrôle a priori des phénomènes faisant monde pour nous (la science doit être prédictive). À ce titre la connaissance passe nécessairement pour nous par l’inscription des phénomènes dans l’espace et le temps, soumis a priori à notre lecture mathématique : toujours déjà couverts par un savoir mathématique éprouvé comme nécessaire. La science est forcément infiltrée par les mathématiques, simplement parce que nous n’appellerions pas science un discours qui n’essaierait pas de reconstruire mathématiquement le monde. L’approche kantienne n’explique pas le succès de la connaissance, mais prétend établir qu’avant même qu’aucun succès ne soit enregistré, la forme mathématique de la science est nécessaire pour nous, exprime notre préjugé sur l’être et notre façon de l’anticiper.

En quoi pourrait d’ailleurs consister une “réponse” à la question de Wigner ? Pour expliquer “pourquoi” les mathématiques sont efficaces dans le déchiffrement du réel, il faut émettre des hypothèses sur la structure ultime de la réalité et le rapport avec l’objet mathématique indiqué par cette structure. C’est-à-dire venir sur le terrain de la métaphysique. La référence théologique possède ici la vertu de bloquer tout débat ultérieur en nommant une instance originaire n’ayant pas à son tour besoin d’explication : à cette instance on impute la genèse du réel en même temps que le déploiement des idéalités mathématiques.

La position kantienne correspond, quant à elle, à un refus de répondre à la question associée à la remarque de Wigner : toute réponse, pour un regard kantien, nous fait aller au-delà de tout vrai savoir, pour succomber à la séduction de la métaphysique ou au charme puissant de la théologie.

S’il est vrai, comme nous le disons depuis le début, qu’il faut présupposer la vision “subjective” des mathématiques pour trouver avec Wigner le succès des mathématiques dans les sciences de la nature déraisonnable, le point crucial apparaît comme celui de la juste perception des mathématiques en tant qu’activité traditionnelle des humains.

Une manière de regarder la mathématique consiste à prendre en considération la forme d’organisation qu’elle s’est donnée depuis l’origine : celle de l’école. Les mathématiques sont quelque chose que l’on diffuse vers les générations ultérieures, à travers l’institution qui est celle de l’école. Nous trouvons dans Platon, déjà, des évocations de la pédagogie mathématique, par exemple lorsque, dans le Ménon, Socrate enseigne à un jeune esclave l’effet du doublement du côté d’un carré. David Lachterman, dans son ouvrage historique The Ethics of Geometry, insiste sur l’importance de la structure fondamentale du maître et de l’élève dans la pensée géométrique chez les Grecs1 . Il suffit, à vrai dire, d’avoir vécu la situation pédagogique pour sentir à quel point elle est fondamentale, à quel point l’essence des mathématiques passe par elle. Husserl disait que, dans le cas de la transmission du contenu géométrique du maître à l’élève, ce dernier parvenait à imaginer le processus de pensée du maître et le reproduire en lui2 .

Un tel événement est ce qu’on a toujours associé à la notion d’enseignement magistral. Lorsque le savoir est dispensé par le maître, l’élève est susceptible de le recevoir de façon parfaite (tout spécialement si le maître est parvenu à donner une forme translucide à son explication) : dans cette hypothèse,  il devient immédiatement l’égal du maître, et se trouve en mesure de le reprendre s’il dévie de ce que lui, comme élève, a pleinement compris. Tous les adeptes de l’enseignement magistral savent qu’une telle aventure leur pend au nez. La dispensation magistrale du savoir est possiblement égalisante, ou peut-être même égalisante dans son principe. De plus, l’égalisation en cause est dynamique, elle se propage selon les voies de l’enseignement : l’élève ayant compris devient le maître d’autres élèves, qu’il égalise à lui, et ainsi de suite. L’école, originairement conçue pour remédier à une relégation qui est celle de l’ignorance, est virtuellement égalisante sans limites, selon le mode magistral.

Ce qui ne veut pas dire que les mathématiques ne constituent pas en même temps une forteresse, perçue comme menaçante par beaucoup. Nous décrivions un peu plus haut le développement mathématique comme une sorte de stalinisme, réinterprétant constamment son passé pour lui faire dire la même chose que ce qui est énoncé au présent comme la meilleure vérité. Au-delà de cette propriété, correspondant au fait que la mathématique s’accumule dans la confirmation de soi plutôt que dans le dépassement de soi à l’instar de la physique (Einstein et Dirac réfutent Newton), les mathématiques par un côté d’elles-mêmes – il est difficile de le nier –rendent l’accès difficile : il faut jouer leur jeu pour entrer dans leur discours et entendre leur message, se tourner vers des objets tout à fait autres que les objets ordinaires et faire nôtre un langage qui n’est pas le langage commun (un aspect que la révolution formaliste a souligné). En bref, pour accéder aux mathématiques, il faut se mettre à leur école, et il n’y a pas d’alternative. Peut-être, comme je viens de le dire, cette école est-elle dans son principe et son intention l’école magistrale égalitaire. Néanmoins à un premier niveau elle refoule : il suffit, du dehors, de percevoir son exigence pour se sentir repoussé.

Il ne faudrait pas, néanmoins, tirer argument de cette construction séparée-séparante de la communauté mathématique pour associer à la mathématique l’image d’une maîtrise : pour regarder les mathématiques comme par excellence le discours où s’affichent et se déploient le contrôle et le pouvoir. On peut, au fond, entendre la “déraisonnable efficacité” de Wigner de cette manière : les mathématiques seraient l’outil de la maîtrise par excellence, et leur instrumentalisation au service de la physique serait le secret du pouvoir matériel pharamineux de celle-ci. À vrai dire, certaines philosophies – cédant à un “frisson infinitaire” – nous proposent une telle image des mathématiques : en se rendant maîtresse de l’infini, la mathématique se serait déjà emparée du monde. Un peu comme, dans les écrits de Lovecraft, celui qui possède le secret d’une équation du quarantième degré est virtuellement le maître de toute chose.

Deux objections sont pourtant possibles.

D’une part, on peut à nouveau faire valoir la vision kantienne : pour la philosophie critique, lorsque la mathématique s’implique dans les sciences, c’est en fournissant ses structures comme interprétation d’espaces accueillant les phénomènes. C’est-à-dire que la mathématisation est liée à la “réduction aux phénomènes” : au fait que nous acceptons de connaître le réel non pas comme chose en soi, ayant sa subsistance au-delà de nous de manière indépendante, mais comme se signalant auprès de nous par ses phénomènes. Il en résulte que la pénétration scientifique de l’être est par principe limitée : quelle que puisse être sa profondeur et sa systématicité, elle s’associe à une réinvention mathématique du monde, inspirée par une instauration mathématique des cadres de ce monde. Elle ne rejoint donc jamais la limite de l’en soi, posée par la philosophie critique comme radicalement hors d’atteinte.

D’autre part, il y a une ouverture du champ interne aux mathématiques, aménagée par leur discours lui-même. Les mathématiques, en effet, ont leurs manières de toujours rouvrir l’horizon du problème, d’inventer à nouveaux frais le domaine de ce qui est à connaître ou à questionner. Elles le font en redéfinissant l’objet auquel on s’adresse (le nombre, la figure, l’ensemble, la catégorie…), en reconfigurant les branches dont elles se constituent (arithmétique versus géométrie, algèbre versus analyse, plus récemment structures topologiques versus structures algébriques versus structures ordonnées), en re-déterminant les lieux problématiques (géométrie algébrique, topologie algébrique, géométrie arithmétique, systèmes dynamiques…). Elles le font encore en interrogeant toutes les régularités ou irrégularités qui se laissent apercevoir au niveau de l’architecture d’ensemble de l’objet mathématique.

Les mathématiques ne se satisfont pas de la couverture parfaite de quoi que ce soit par un calcul ou un dictionnaire : elles vont chercher ce qui de l’objet et du paysage nous échappe, et continue de faire problème pour nous. À titre d’exemple majeur et non anodin, les mathématiques dans les années trente ont interrogé l’antique notion de calcul, révélant que nous n’avions jamais su exactement ce que nous entendions par un tel mot. Elles ont proposé à la question du calcul plusieurs réponses hétérogènes, dont elles ont établi néanmoins la convergence en un certain sens (je pense ici aux trois notions classiques de la calculabilité, celle qui passe par la notion de fonction récursive, celle qui se réfère au lambda-calcul, et celle qui se formule au moyen du concept de machine de Turing). On peut dire que les mathématiques, en l’occurrence, ont mis en mouvement un bloc de certitude où la pensée commune, fût-elle philosophique, se montrait incapable de dégager une interrogation.

Les mathématiques font donc partie de façon éminente de ce qu’on peut appeler après Hegel l’Unruhigkeit de la pensée, sa faculté de ne jamais se reposer sur elle-même (son inquiétude, si nous traduisons l’allemand). C’est à ce titre que nous devrions regarder les mathématiques comme composante à part entière de la culture, comme un des lieux où l’humanité accumule des trésors dont les replis contiennent de quoi relancer indéfiniment notre curiosité et notre exaltation.

• 1Cf. Lachterman, D.R., The Ethics of Geometry, London, Routledge, 1989
• 2Cf. L’origine de la géométrie, trad. franç. Jacques Derrida, Paris, PUF, 1974, p. 185.