Des probabilités à la géométrie - Un aperçu des travaux de Jean-Michel Bismut

L'œuvre mathématique de Jean-Michel Bismut couvre deux branches des mathématiques : théorie des probabilités et analyse géométrique sur les variétés. Des idées venant de la théorie des probabilités jouent un rôle important dans ses travaux en géométrie. La physique mathématique a également motivé une grande partie de son travail.

Dans cet article, on commencera par décrire les travaux de Bismut qui sont de nature plus strictement probabiliste. La deuxième partie de l'article est consacrée aux contributions de Bismut en géométrie. 

Travaux de théorie des probabilités

Entré à l'École Polytechnique en 1967, Jean-Michel Bismut y a suivi le cours de mathématiques de Laurent Schwartz, et également des cours de Jacques Neveu en théorie des probabilités, et de Paul Malliavin en analyse harmonique. Sorti major de sa promotion en 1970 dans le Corps des Mines, Bismut obtient un doctorat d'état en mathématiques en 1973  décerné par l'Université Paris VI sous la direction  de Jacques-Louis Lions et Jacques Neveu, dont le titre est Analyse convexe et probabilités.

Nous allons décrire un résultat obtenu par Bismut dans sa thèse, dont les méthodes vont déterminer une partie de ses travaux ultérieurs. 

Rappelons que si on contrôle une équation différentielle ordinaire du type  
$$
\dot{x}_t= f(t,x_t,u_t),
$$
de manière à rendre extrémale une fonctionnelle $\int_0^T L(t,x_t,u_t)dt+\Phi(x_{T})$, sous des hypothèses convenables,  le principe du maximum de Pontryagin permet de construire un hamiltonien associé $H(t,x,p,u)$. On résout l'équation de Hamilton correspondante dans l'espace des phases $(x,p)$ sous la contrainte $\frac{\partial}{\partial u}H=0$. Cette solution se projette en une solution extrémale du problème variationnel initial.

Dans sa thèse [1], et dans l'article [2], Bismut a  établi en particulier une version stochastique du principe du maximum  de Pontryagin. On contrôle une équation différentielle stochastique de Itô du type

$$dx_t =f(t,x_t,u_t)dt + \sum_{i=1}^m \sigma_i(t,x_t,u_t)\delta w^i,$$
où $w$ est un mouvement brownien $m$-dimensionnel,  $\delta w$ est sa différentielle de Itô, et $u$ est un contrôle ne dépendant que du passé de $w$. On veut trouver des extrémums de la fonctionnelle  $E [\int_0^TL(t,x_t,u_t)dt+ \Phi(x_{T})]$, où $E$ note l'espérance.  

Le nouvel Hamiltonien s'écrit sous la forme :
$$
\mathcal{H}= \left\langle  p, f\right\rangle 
+ \left\langle  H, \sigma\right\rangle - L.
$$
Dans cette équation, $H$ désigne un autre processus ne dépendant que du passé.  Les équations de Hamilton établies par Bismut s'écrivent sous la forme,
\begin{align}\label{eq:b1.4} \begin{split}
&dx= \partial_{p} \mathcal{H} dt+ \partial_{H}\mathcal{H} \cdot \delta w,  \quad 
x(0)=x_{0},\\
&dp= - \partial_{x}\mathcal{H}  dt+ \partial_{\sigma}\mathcal{H} \cdot \delta w, \quad 
p_{T}=- \partial_{x} \Phi(x_{T}),\\
&\frac{\partial}{\partial u}\mathcal{H}=0.
\end{split}\end{align}
Comme dans son analogue déterministe, le processus contrôlé $x_{\cdot}$ vérifie une condition initiale, tandis que le processus dual correspondant $p_{\cdot}$, tout en ne dépendant que du passé du mouvement brownien, satisfait à une condition terminale. Cette contradiction n'est qu'apparente : le choix de $H$ permet de résoudre l'équation. L'équation vérifiée par $p_{\cdot}$ dans le système précédent est maintenant appelée équation différentielle stochastique rétrograde. 

Dans [4], Bismut a appliqué ce principe du maximum stochastique de Pontryagin à des équations différentielles stochastiques linéaires avec un critère quadratique, et dans [3], à un modèle mathématique de croissance économique. 

Dans les années 1990, Etienne Pardoux et Shige Peng ont développé les idées de Bismut,  en construisant une théorie des équations différentielles stochastiques rétrogrades, et en établissant diverses versions de principe du maximum stochastique. Ce principe est devenu un outil majeur de la finance mathématique.

Un autre résultat [5] de Bismut en théorie des probabilités est relatif au calcul de Malliavin. Malliavin avait démontré une formule d'intégration par parties sur l'espace de probabilité du mouvement Brownien fondée sur l'utilisation d'un oscillateur harmonique en dimension infinie. Bismut donne une autre approche du calcul de Malliavin qui utilise la formule de Girsanov, qui est une formule de quasi-invariance de la mesure Brownienne par certaines translations aléatoires, dont une formule d'intégration par parties découle immédiatement. Par la suite, Bismut va combiner son approche du calcul de Malliavin et la théorie des grandes déviations [7]. Les  résultats obtenus joueront un rôle important dans ses travaux en  théorie de l'indice local.

Pour expliquer le tournant de Bismut vers la théorie de l'indice, rappelons que toute formule d'intégration par parties résulte d'une formule de Stokes d'intégration de formes différentielles. Bismut va progressivement tenter de dégager le contenu cohomologique du calcul de Malliavin.

Le théorème d'indice d'Atiyah-Singer et ses applications

Bismut va ensuite se tourner vers le théorème de l'indice d'Atiyah-Singer et ses applications. Si $X$ est une variété compacte de dimension paire $n$, et si $P$ est un opérateur différentiel elliptique, l'indice de $P$ est la différence des dimensions du noyau et du conoyau de $P$. L'indice ne dépend que du symbole principal de $P$. Le théorème d'Atiyah-Singer en 1963 donne une formule cohomologique pour l'indice de $P$ à l'aide de classes caractéristiques1  associées au symbole principal. 
 
Atiyah et Singer ont découvert le rôle de l'opérateur de Dirac géométrique agissant sur des spineurs tordus par un fibré vectoriel $E$. Les opérateurs de de Rham Hodge $d+d^{*}$, de Dolbeault-Hodge $\overline{\partial}+\overline{\partial}^{*}$ sont des opérateurs de Dirac. Atiyah, Bott et Patodi ont montré que le théorème de l'indice pour les opérateurs de Dirac implique le théorème d'Atiyah-Singer pour tous  les opérateurs elliptiques. 

• 1Les classes caractéristiques sont des classes de cohomologie associées à des fibrés vectoriels.

Pour l'opérateur Dirac, on a une version locale du théorème de l'indice. En effet si  $D$ est un tel opérateur, des arguments de théorie spectrale montrent que pour tout $t>0$, si $\mathrm{Tr_{s}}$ désigne la supertrace, on a
\begin{equation}\label{eq:form1}
    \mathrm{Ind}\, D_{+}
    =\mathrm{Tr_{s}}\left[\exp\left(-tD^{2}\right)\right].
\end{equation}
Si $P_{t}\left(x,x'\right)$ désigne le noyau $C^{\infty }$ associé à l'opérateur de la chaleur $\exp\left(-tD^{2}\right)$ relativement au volume riemannien $dx'$, on obtient
\begin{equation}
    \mathrm{Ind}\, 
    D_{+}=\int_{X}^{}\mathrm{Tr_{s}}\left[P_{t}\left(x,x\right)\right]dx.
\end{equation}
On sait que quand $t\to 0$, $\mathrm{Tr_{s}}\left[P_{t}\left(x,x\right)\right]$ a un développement uniforme du type
\begin{equation}
\mathrm{Tr_{s}}\left[P_{t}\left(x,x\right)\right]
=\sum_{\substack{k\in \mathbb Z\\
-n/2\le k\le N}}^{}a_{k}\left(x\right)t^{k}
+\mathcal{O}\left(t^{N+1}\right),
\end{equation}
les coefficients $a_{k}\left(x\right)$ ne dépendant que localement des données géométriques. McKean et Singer conjecturent en 1967 que si $D=d+d^{*}$, des annulations fantastiques se produisent dans $\mathrm{Tr_{s}}\left[P_{t}\left(x,x\right)\right]$, à savoir que $a_{k}=0,k<0$, et que  $a_{0}$ coïncide avec la forme d'Euler construite par Chern qui est associée à la connexion de Levi-Civita sur $TX$. Cette conjecture a immédiatement été étendue à tous les opérateurs de Dirac géométriques. La conjecture de McKean-Singer a été donnée par Patodi, Gilkey, et Atiyah-Bott-Patodi. Bismut a donné une preuve probabiliste du théorème de l'indice local et des formules de point fixe de Lefschetz [6]. Le genre $\widehat{A}$ y est obtenu à l'aide de la formule d'aire de Paul Lévy. 

La théorie de l'indice local a connu des développements considérables, que nous ne décrirons pas ici. En particulier, Bismut en a fait un instrument d'exploration de questions mathématiques éloignées de la théorie de l'indice. Décrivons deux questions abordées par Bismut.

1. Il existe une version relative du théorème de l'indice pour une famille d'opérateurs de Dirac où l'indice est à valeurs dans la cohomologie paire de la base. Bismut [8] donne une version locale du théorème de l'indice pour une famille d'opérateurs de Dirac, où les classes de cohomologie sont remplacées par des formes différentielles  explicites qui leur correspondent, via la théorie de Chern-Weil. Bismut utilise pour cela la théorie des superconnexions de Quillen, en construisant une superconnexion dite de Bismut associée à une fibration. Avec une perspective différente, ces travaux seront repris en partie dans le livre de Berline, Getzler et Vergne [13], plus centré sur la théorie des représentations. La superconnexion de Bismut réapparaît dans toutes les constructions ultérieures, comme les formes $\widetilde \eta$ de Bismut-Cheeger [11], les formes de torsion analytique holomorphes de Bismut-Köhler [10,14], et les formes de torsion de Bismut-Lott  pour les fibrés vectoriels plats [16]. 
2. Dans le prolongement des travaux de Quillen, avec Freed [9], Gillet-Soulé [10], et Lebeau [12], Bismut développe la théorie du déterminant d'une famille d'opérateurs de Dirac, puis la théorie du fibré déterminant de l'image directe d'un fibré vectoriel holomorphe, munie d'une métrique dite de Quillen. Les résultats obtenus jouent un rôle essentiel dans la démonstration du théorème de Riemann-Roch-Grothendieck de Gillet et Soulé en géométrie d'Arakelov.

Décrivons plus en détail certains  résultats. Si $X$ est une variété complexe, et si $E$ est un fibré vectoriel holomorphe, soit $H\left(X,E\right)$ la cohomologie du complexe de Dolbeault associée, et soit $\lambda$ le déterminant de la cohomologie.

La métrique de Quillen est une métrique sur $\lambda$ obtenue en corrigeant la métrique $L_{2}$ des formes harmoniques par la torsion analytique holomorphe de Ray-Singer. Celle-ci est un produit alterné pondéré des déterminants du laplacien de Hodge en différents degré. Ces déterminants sont eux-même définis à l'aide de la valeur en $0$ des fonctions zêta correspondantes. La torsion analytique est donc un invariant spectral du Laplacien de Hodge. Dans une situation en famille, $\lambda$ est un fibré en droites  holomorphe hermitien sur la base. Le théorème de courbure de Bismut-Gillet-Soulé dit que, sous des conditions convenables,  la courbure du fibré holomorphe hermitien $\lambda$ est donnée par une formule explicite locale, qui raffine au niveau des formes différentielles le théorème de Riemann-Roch-Grothendieck pour le fibré déterminant. 

Le travail de Bismut-Lebeau porte sur le comportement de la métrique de Quillen par plongement. Ce travail donne une formule locale de comparaison locale entre ces métriques, qui s'exprime à l'aide de courants construits dans un autre travail par Bismut-Gillet-Soulé. L'article [17] étend ce résultat au cas de la composition d'une immersion et d'une submersion.

Dans le même ordre d'idée, Bismut et Zhang [15] donnent une nouvelle preuve de la conjecture de Ray-Singer portant sur l'égalité de deux invariants, l'un est la torsion de Reidemeister, qui est un invariant combinatoire, l'autre la torsion de Ray-Singer réelle, qui est un invariant spectral du laplacien de Hodge en théorie de de Rham. Le résultat de Bismut-Zhang s'applique également à des fibrés vectoriels plats arbitraires, pour lesquels un terme de défaut apparaît. La preuve de Bismut-Zhang est fondée sur l'utilisation du laplacien de Witten, qui est une déformation de la théorie de Hodge usuelle, fondée sur la modification de la forme volume. 

Ainsi, Bismut a contribué à un renouvellement de la théorie de l'indice par l'invention et l'utilisation d'objets nouveaux : la superconnexion qui porte son  nom en est un exemple. Il a aussi développé des techniques absolument nouvelles, comme celles qui ont été utilisées par Bismut et Lebeau dans leur article révolutionnaire sur les immersions complexes, où théorie spectrale, théorie de l'indice local, et théorie des probabilités se mélangent et se rencontrent de manière souvent imprévue, et ont donné lieu à de nombreuses applications. Le livre [19] consacré aux noyaux de Bergman est en partie inspiré de l'article de Bismut-Lebeau.

Le laplacien hypoelliptique

L'oscillateur harmonique partout

Il est  bien connu que dans des problèmes de localisation spectrale d'opérateurs de Schrödinger, pour modéliser une localisation des fonctions propres de l'opérateur, on se ramène souvent à une situation modèle, où l'opérateur de Schrödinger devient un oscillateur harmonique.

On peut se demander si l'apparition de l'oscillateur harmonique n'est pas liée à la présence d'un oscillateur harmonique universel sous-jacent, et si c'est le cas, quelle utilisation peut être faite de cet oscillateur harmonique. C'est à ces questions que Bismut va tenter de répondre.

Laplacien de Witten et laplacien hypoelliptique

Une première version du laplacien hypoelliptique apparaît ainsi dans le contexte de la théorie de Morse. Pour une variété $X$ munie d'une fonction de Morse $f$, nous avons déjà évoqué le laplacien de Witten $\square^{X}_{f}$.

Bismut va se poser la question de l'existence d'un laplacien de Witten sur l'espace des lacets $LX$ d'une variété riemannienne $X$. Comme le laplacien de Hodge sur $LX$ n'existe pas, Bismut va plutôt construire une version semi-classique de la déformation de Witten. En définitive, Bismut est amené, non pas à construire une déformation  de Witten de la théorie de Hodge de $LX$, mais une déformation hypoelliptique du laplacien de Hodge usuel sur $X$ [18]. Dans la construction, il y a un paramètre $b>0$ supplémentaire, qui correspond au paramètre de la déformation de Witten sur $LX$.

 Soit $Y^{\mathcal{H}}$  le champ de vecteurs sur l'espace total du cotangent $\mathcal{X}$ qui engendre le flot géodésique, et si $L_{Y^{\mathcal{H}}}$ est l'opérateur de dérivée de Lie associé à $Y^{\mathcal{H}}$, le laplacien hypoelliptique $L_{b}^{X}$  est un opérateur différentiel sur $\mathcal{X}$ qui s'écrit sous la forme
$$L_{b}^{X}=\frac{H}{b^{2}}-\frac{L_{Y^{\mathcal{H}}}}{b}+\cdots,$$
où  $H$ est un oscillateur harmonique de la fibre du cotangent, $\cdots$ désigne des termes d'ordre inférieur. Par Hörmander, l'opérateur $\frac{\partial}{\partial t}+L_{b}^{X}$ est hypoelliptique. 

Les propriétés analytiques du laplacien hypoelliptique ont été établies par Bismut et Lebeau [20]. Le résultat principal de leur livre dit que comme prévu, la torsion analytique de Ray-Singer en théorie de de Rham est invariante par déformation hypoelliptique. 

Insistons ici sur trois points. 

1. L'opérateur $L_{b}^{X}$ est une version  géométrique d'un opérateur bien connu en physique statistique, l'opérateur de Fokker-Planck. 
2. Quand $b\to 0$, le laplacien $L_{b}^{X}$ converge en un sens convenable vers le laplacien de Hodge usuel $\square^{X}/2$ sur $X$. 
3. En un sens naïf, quand $b\to + \infty $, $L_{b}^{X}$ converge vers l'opérateur $-L_{Y^{\mathcal{H}}}$. Le travail analytique de Bismut-Lebeau porte en grande partie sur la convergence $b\to 0$. 

Le fait que le laplacien hypoelliptique donne une interpolation naturelle entre le laplacien et le flot géodésique sera utilisé par Bismut dans ses travaux ultérieurs sur la formule des traces.

Formule des traces et intégrales orbitales

La formule de trace de Selberg et la formule de Plancherel de Harish-Chandra pour les intégrales orbitales (obtenues entre 1950 et 1978) jouent  un rôle fondamental en théorie des représentations et en théorie de nombres. Elles donnent un algorithme permettant de calculer les traces de certains opérateurs agissant sur l'espace des  fonctions $L^{2}$ sur $G/ \Gamma$, où $\Gamma$ est un sous-groupe arithmétique de $G$, à l'aide  d'« intégrales orbitales ».

Bismut [21] montre qu'une autre version du laplacien hypoelliptique  permet d'étudier ces intégrales orbitales du point de vue de la géométrie différentielle. Bismut va montrer qu'alors qu'avec la déformation hypoelliptique pour des variétés riemanniennes générales, seuls certains invariants spectraux sont préservés, pour la déformation hypoelliptique qu'il construit, et qui est spécifique aux espaces localement symétriques, le spectre du laplacien est essentiellement préservé. Ce point de vue va lui permettre de donner des formules géométriques explicites locales pour  les intégrales orbitales semi-simples associées au laplacien du groupe, l'opérateur de Casimir. Pour construire cette nouvelle déformation hypoelliptique, Bismut utilise un autre opérateur de Dirac introduit par Kostant.

L'article [23] donne une revue détaillée de ces résultats de Bismut,  et une  application de ces formules obtenue par Shen : la solution de la conjecture de Fried, formulée en  1986, relative à l'égalité de la torsion analytique avec la valeur en $0$ de la fonction zêta dynamique de Ruelle, dans le cas des espaces localement symétriques de type non compact.

Le laplacien hypoelliptique en géométrie complexe

Bismut a construit une autre version du laplacien hypoelliptique en géométrie complexe. La motivation ici est différente. Il s'agit de lever des obstructions locales inévitables  dans des calculs effectués avec des laplaciens elliptiques. C'est ainsi qu'avec Shu Shen et Zhaoting Wei, Bismut [22,24] démontre un théorème de Riemann-Roch-Grothendieck à valeurs dans la cohomologie de Bott-Chern, qui s'applique à des variétés compactes complexes arbitraires, et aux faisceaux cohérents correspondants. Le laplacien hypoelliptique jour un rôle essentiel dans la preuve du résultat principal.    

Conclusion

Bismut a été directement influencé par ses contacts avec Michael Atiyah, Paul Malliavin, et Daniel Quillen.

Par ailleurs, Bismut a passé  sa vie mathématique au département de mathématique de l'Université Paris-Sud, à Orsay. Ce département a joué un rôle essentiel dans sa formation de mathématicien,  grâce au  climat très particulier qui y régnait, et aux amitiés qu'il s'y est faites. 

Avec Gerd Faltings, Bismut a  été éditeur en chef  de la revue Inventiones Mathematicae de 1996 à 2008. Il a été membre du Comité Exécutif  de l'Union Mathématique Internationale (UMI) de 1998 à 2002, et il en a assuré la vice-présidence de 2002 à 2006. 

Par ses travaux sur les équations différentielles stochastiques rétrogrades, le calcul de Malliavin, la théorie de l'indice et le laplacien hypoelliptique, Bismut a apporté des contributions fondamentales en théorie des probabilités, en géométrie différentielle, à l'analyse sur les variétés, avec des applications importantes de ses travaux à la  théorie des nombres et à la théorie des représentations. Bismut a travaillé de manière majeure à installer la théorie des probabilités au cœur des mathématiques contemporaines.

Nous espérons que la description  des travaux de Bismut offre quelques aperçus de la profondeur et de la diversité de ses contributions mathématiques. 

Remerciements

L'auteur remercie vivement Jean-Michel Bismut pour de nombreuses discussions sur le contenu de cet article.