Voyage dans l’espace de Riemann

Connaissez-vous l’espace de Riemann¹ ?

Sa définition est simple : c’est un espace dans lequel la mesure de la distance (ou « métrique ») varie selon le point que l’on considère.

Regardons par exemple une carte géographique. C’est la projection plane d’une surface approximativement sphérique et bosselée (puisque notre Terre possède des montagnes et des vallées), réduite à l’échelle puis enrichie de lignes de niveau, noms des lieux et autres indications.

À chacun des points de la surface de la Terre sont associées une longitude et une latitude : c’est donc un espace à deux dimensions. La distance à vol d’oiseau entre deux points est celle qui apparaît sur la carte, une fois celle-ci reportée à l’échelle et sous l’approximation que comporte la projection plane d’une sphère.

Mais on peut aussi vouloir mesurer comme des arpenteurs la distance « au ras du sol » qui suivra les accidents du terrain entre les deux points : elle sera plus élevée que la distance à vol d’oiseau car le terrain comporte des dénivellations, et d’autant plus élevée que leurs pentes seront plus fortes.

La mesure de cette distance au ras du sol dépend donc autour de chaque point de la pente du terrain. Elle dépend aussi de l’orientation du trajet : l’écart avec la mesure de la distance à vol d’oiseau est nulle le long des lignes de niveau, elle est maximale dans le sens de la pente.

La surface de la Terre est ainsi un espace de Riemann. Il en est de même de toutes les surfaces à deux dimensions qui, n’étant pas exactement planes, ne sont pas des « espaces euclidiens » : la sphère par exemple ainsi que la « selle de cheval », morceau d’un « paraboloïde hyperbolique ».

Sur de telles surfaces le chemin le plus court entre deux points ne suit pas une ligne droite mais une courbe nommée « géodésique » : sur la sphère, les géodésiques sont des arcs de grand cercle et deux géodésiques localement parallèles se coupent en deux points. Sur la surface d’une sphère la somme des angles d’un triangle est supérieure à deux droits, elle leur est inférieure sur une « selle de cheval ».

Il faut donc dans un espace de Riemann se résoudre à abandonner les axiomes de la géométrie euclidienne ainsi que les résultats qui s’en déduisent. Or l’enseignement primaire et secondaire est totalement « euclidien » : notre première formation aux mathématiques nous ainsi a donné des habitudes dont il sera ensuite difficile de se défaire.

Nous pouvons certes admettre qu’une surface soit bosselée, que la plus courte distance ne s’y mesure pas le long d’une droite, etc. Mais qu’en est-il de l’espace à trois dimensions dans lequel nous vivons : est-il possible de le considérer comme un espace de Riemann ?

De l’analyse des données à l’intelligence artificielle

J’ai inauguré le cours d’analyse des données à l’ENSAE de 1972 à 1982. Il a pris forme petit à petit et sa version la plus achevée est Analyse des données, 4ème édition, Economica, 1997.

Contrairement à l’apprentissage profond de l’intelligence artificielle, qui peut donner de bons résultats mais sans que l’on puisse savoir comment et pourquoi, l’analyse des données est logiquement transparente car elle utilise des opérations mathématiques bien définies et donc parfaitement claires.

Les données qu’il s’agit d’analyser donnent naissance, selon une formule judicieusement choisie, à un nuage de points munis d’une masse et plongés dans un espace métrique (ou plutôt à deux nuages, liés par une relation de dualité). Un algorithme récursif permet de trouver les « axes factoriels » le long desquels le nuage de points est le plus étiré. En projetant le nuage sur un couple d’axes, on obtient une visualisation et elle sera encore plus éclairante si l’on projette aussi le nuage dual.

Tout tableau de nombres est opaque : personne ne sait vraiment lire un tableau ayant plus d’une dizaine de lignes et de colonnes. L’image qu’en donne une analyse factorielle permet, moyennant une perte d’information aussi faible que possible, de voir ce qu’il contient : cette analyse est analogue à la radiographie qui surmonte l’opacité du corps humain et permet de voir ses organes.

Le calcul répétitif nécessaire pour trouver les axes factoriels était théoriquement possible avant que l’on dispose d’un ordinateur, mais épouvantablement fastidieux et donc en pratique impossible. Avec l’informatique, le processeur exécutera très rapidement les calculs que nécessite l’algorithme : c’est l’informatisation qui a permis de développer l’utilisation de l’analyse des données à partir des années 1960.

Kolmogorov, Mathématiques, Les Éditions du Bec de l’Aigle, 2020

André Cabannes a traduit du russe ces trois gros volumes. Ils présentent les mathématiques sous un jour inhabituel pour des Français : les Russes n’ont pas été soumis au carcan de Bourbaki et cela ne les a pas rendus moins savants, au contraire.

À ceux qui ont subi tant de cours rendus méthodiquement incompréhensibles par une « rigueur » qui cultivait l’abstraction la plus raide, l’école russe de mathématiques, ancrée dans la physique et la pratique des ingénieurs, apporte un point de vue libérateur.

L’ouvrage rassemble les contributions de divers auteurs. Chacun a son style et insiste sur ce qui lui semble le plus intéressant, comme le fait le guide qui vous fait découvrir une ville. Ils nous invitent à explorer divers « pays » du continent des mathématiques, a acquérir l’intuition qui permet d’y trouver ses repères, à « réfléchir par soi-même » au lieu de se contenter d’assimiler les résultats qu’ont accumulés des savants.

On comprend alors que les mathématiques sont une démarche avec tout ce que cela implique : il s’agit de construire la maison, non de se contenter de l’habiter.

On croit généralement la recherche réservée aux Chercheurs, aux Savants, et ceux qui savent se moquent du débutant qui retrouve tout seul un « résultat bien connu ». Ils ont tort car il n’est pas indispensable d’être sur le front de taille historique de la connaissance pour être un chercheur authentique, fût-il tout petit : il s’agit seulement de se poser une question qui dépasse les moyens dont on dispose, et de construire ces moyens pour obtenir une réponse. On peut rencontrer un authentique chercheur parmi des lycéens : Grothendieck en était déjà un lorsqu’il a redécouvert la formule de Héron d’Alexandrie.

Explorer des « pays différents » – les fonctions analytiques, le calcul des probabilités, la topologie, etc. – ne suffit pas à combler l’intuition du penseur qui sait, ou devine, que ces « pays » sont reliés par des échanges : la recherche la plus profonde, la plus exigeante aussi, est celle qui, mettant à jour la solidarité entre des univers logiques a priori séparés, fait apparaître qu’ils peuvent s’enrichir par une fécondation mutuelle.

Cependant cette recherche ne peut être menée à bien que si l’on connaît les « pays » qu’il s’agit de mettre en relation, que si on les a suffisamment pratiqués pour avoir une intuition exacte de leur contenu. L’enseignement qui présente par exemple les structures algébriques sans que l’on puisse savoir d’où elles viennent, ni pourquoi elles ont été retenues parmi toutes les formes a priori possibles, ignore que l’effort d’abstraction dont elles résultent s’enracinait dans une connaissance familière des êtres dont elles érigent le type.

Le travail animé par Kolmogorov invite le lecteur à acquérir cette connaissance familière. Les divers domaines des mathématiques sont présentés en partageant l’intuition de leurs premiers explorateurs, celle aussi des chercheurs qui en approfondissent encore aujourd’hui l’exploration. Cela encourage le lecteur a pratiquer lui-même la démarche du mathématicien créateur.

La réalité des êtres mathématiques

L’enseignement de la physique confronte souvent l’étudiant à des êtres mathématiques énigmatiques.

Ainsi l’équation 1/x + 1/x’ = 1/f du cours élémentaire d’optique en seconde exprime x’ comme fonction homographique de x : x’ = xf/(x – f). Lorsque je l’ai rencontrée elle m’était étrangère : je n’avais pas encore étudié la fonction homographique en maths. Lorsque le cours de maths m’a permis de la connaître à fond, le voile s’est levé et le cours élémentaire d’optique n’a plus présenté de difficulté.

Quels sont les êtres mathématiques avec lesquels sa formation a progressivement familiarisé un étudiant ?
– le plan avec la droite, les angles, le triangle, le cercle, l’homothétie, l’inversion et divers théorèmes (Thalès, Pythagore, etc.) ;
– l’espace à trois dimensions avec le plan, la sphère, le cone, l’hyperboloïde, etc. ;
– les nombres (entiers, rationnels, réels, complexes) ;
– l’espace vectoriel, les tenseurs ;
– l’algèbre, les équations ;
– les fonctions, le calcul différentiel et intégral ;
– la statistique, les probabilités, etc.

Chacun de ces êtres présentant à l’intellect un monde à explorer, il faut un apprentissage pour y trouver ses repères et se familiariser, comme avec une personne ou une langue étrangère. Certains peinent longtemps, d’autres apprennent vite, mais pour les uns comme pour les autres l’apprentissage est nécessaire.

Ces êtres mathématiques s’expriment sobrement, dans le monde de la pensée, sous la forme d’axiomes et de raisonnements. Leurs inventeurs ont cependant le plus souvent répondu au désir de reproduire mentalement un phénomène physique afin de le soumettre au calcul : la relation entre la physique et les maths est organique, elle ne se réduit pas à un formalisme¹.

Lire les mathématiques

Je n’ai pas en mathématiques le talent de ceux de mes camarades (Pierre Faurre, Francis Gaspalou, François Lépingle, Jean Bergougnoux, etc.) pour qui elles semblent naturelles et évidentes. Quand je lis des maths mon cerveau renâcle et réclame des explications : pourquoi l’auteur a-t-il choisi ces hypothèses-là, pourquoi sa démonstration suit-elle tel itinéraire, pourquoi ces notations-là et non pas d’autres, etc.

La lecture du livre d’un mathématicien (Grundzüge der Mengenlehre de Hausdorff, Disquisitiones Arithmeticae de Gauss) n’est pas la même que celle d’un roman. Il faut lire très lentement, sans quoi je ne comprends et ne retiens rien. Puis je dois surmonter des contrariétés car ce qui a été naturel pour l’auteur ne l’est pas nécessairement pour moi.

Voici un exemple. Au tout début de ses Disquisitiones Gauss définit ainsi la congruence : « If a number a divides the difference of the numbers b et c, b et c are said to be congruent relative to a ». Ainsi pour Gaus b ≡ c (mod a) s’il existe un entier k tel que b – c = ka.

J’avais pris l’habitude d’écrire cette condition ainsi : b = c + ka. C’est équivalent, direz-vous. Oui bien sûr, mais ces deux notations orientent chacune vers une piste différente. « b = c + ka » invite à considérer la liste des nombres congrus à c modulo a, qui s’obtient en donnant à k toutes les valeurs entières, tandis que « b – c = ka » invite à vérifier s’il existe une valeur de k telle que l’on puisse dire que b est congru à c modulo a.

Nuance négligeable, direz-vous encore. Certes, mais si Gauss a choisi de s’exprimer ainsi dès la première ligne de son traité c’est qu’il a une intention qu’il importe d’admettre, de s’assimiler pour pouvoir comprendre la suite.

« Comprendre », il est vrai, peut s’entendre à plusieurs niveaux de profondeur. Un premier niveau consiste à vérifier que ce qu’a écrit l’auteur est exact : alors la notation b – c = ka ne pose aucun problème, et la lecture des démonstrations est rapide car on connaît assez de mathématiques pour s’assurer, sans entrer dans le détail du raisonnement, de l’exactitude d’un théorème.

Mais je veux comprendre à fond, comprendre non seulement que ce que dit Gauss est vrai, mais aussi pourquoi il le dit de la façon dont il le dit. Je ne suis pas sûr, d’ailleurs, de posséder assez de mathématiques pour juger évident chacun de ses théorèmes : il faut donc que je me familiarise dès le début avec le style de ses démonstrations et, pour cela, que je les étudie en prenant bien mon temps.

J’ai d’ailleurs un obstacle à surmonter. Le cours d’arithmétique en seconde (ou en première, je ne sais plus) a été ma seule rencontre avec la théorie des nombres, qui ne figure ni dans le programme de Taupe ni dans celui de l’École polytechnique. J’ai compris alors que la congruence était l’une de ses clés, une autre étant les nombres premiers. Mais comment une chose aussi simple que la congruence peut-elle se révéler féconde ?

La fin du premier chapitre de Gauss m’a apporté une réponse : la congruence permet de démontrer les règles de divisibilité par 3, 9 et 11, démonstration que j’avais jusqu’alors vainement cherchée. Pour que Gauss se lance dans la théorie des nombres il a fallu qu’il anticipe cette fécondité : qu’est-ce qui a éveillé son intuition ?

*     *

La lecture attentive, lente, répétée, de l’œuvre d’un mathématicien créateur (Newton, Lagrange, Poincaré, Riemann, etc.) est un voyage en compagnie d’un grand esprit, chacun ayant son style propre. À la réflexion, la différence avec la lecture des œuvres littéraires me semble moins grande que je ne l’ai dit plus haut : quand je relis La Fontaine, Pouchkine, Tolstoï, Proust, Colette, etc. j’y trouve des choses nouvelles et m’arrête longuement sur certains paragraphes...

La différence réside dans la première lecture. Celle d’un bon texte littéraire semble facile mais ne révèle qu’une toute petite partie de sa richesse. Celle d’un texte mathématique est par contre des plus pénibles : mon cerveau, réticent, refuse d’abord hypothèses et notations, se demande à quoi tout cela peut servir, à quoi l’auteur a pu penser, quelles étaient ses intentions, qu’est-ce qui a guidé son intuition, etc.

J’éprouve d’ailleurs la même difficulté lorsque je relis après quelques mois mes propres travaux mathématiques, qui semblaient pourtant évidents pendant que j’écrivais.

Comme j’admire, comme j’envie ceux de mes camarades qui possèdent un talent naturel pour les maths et pour qui tout cela ne présente aucune difficulté !

Felix Hausdorff, Grundzüge der Mengenlehre, Springer, 2002

Lorsque je suis entré en sixième mon père a dit : « L'anglais, c'est la langue des affaires, pouah ! L'allemand est la langue des philosophes : tu feras de l'allemand ».

J'ai souffert pendant deux ans, au lycée Montesquieu à Bordeaux, sous la férule d'un professeur qui prétendait nous inculquer, avec la langue allemande, l'esprit de sérieux que seuls, pensait-il, les Allemands possèdent. Mon refus obstiné l'a fait enrager.

C'est en seconde, avec M. Guinaudeau au lycée Montaigne, que j'ai enfin découvert les plaisirs que procure cette langue. Ce pédagogue à la générosité inlassable nous a fait avaler une grammaire que nous étions censés déjà connaître mais que nous ignorions évidemment. J'ai pu enfin lire Goethe, Heine, Thomas Mann, et une foule d'auteurs savoureux comme Ernst von Salomon.

*     *

C'est donc à mon père, et à M. Guinaudeau, que je dois de pouvoir lire Hausdorff. Les Grundzüge der Mengenlehre, publiés en 1914 (et de nouveau par Springer en 2002), sont l'ouvrage fondamental en théorie des ensembles, topologie générale et théorie de la mesure. Ils n'ont pas été traduits en français, ni à ma connaissance en anglais, et c'est une honte.

La théorie des ensembles que l'on m'a enseignée était un tissu de banalités, à l'exception de ce qu'elle dit sur la cardinalité des ensembles infinis. La topologie générale était une énigme : comment peut-on comprendre la définition des ouverts par laquelle le cours commence et que je résume : « ensemble, stable par réunion quelconque et par intersection finie, de parties d'un ensemble » ? D'autres que moi ont peut-être entendu enfin une présentation raisonnable de l'intégrale de Lebesgue, ce n'est pas mon cas.

Tout cela, on le trouve dans Hausdorff : sa pédagogie patiente est de même qualité que celle de M. Guinaudeau. Tout est clair, exact, complet, et si sa lecture demande un effort (lire des maths, ce n'est pas lire un roman) celui-ci reçoit bientôt sa récompense. De temps à autre, il me semble qu'Hausdorff a commis une erreur : l'enquête qui s'ensuit, passionnante, fait alors franchir à mon intuition une de ses limites.