LNA#54 / mémoires de sciences : rubrique dirigée par Rémi Franckowiak et Bernard Maitte Comment écrire l’histoire d’un problème mathématique ? Résurgences du passé dans le présent : systèmes intégrables dynamique complexe Par Anne-Marie MARMIER Maître de conférences honoraire de mathématiques à l’Université Lille 1 Le grand récit historique du développement des mathématiques est comme un vaste palais toujours en construction et toujours en travaux ; des salles s’offrent à la découverte, d’autres déjà équipées sont régulièrement repensées et de nouveaux objets sont alors mis à jour derrière les drapés d’idéologies ou d’interprétations précédentes. Le plan n’est pas posé a priori. Le plus souvent, le discours s’organise suivant le temps et l’espace, il rend compte des traces retrouvées et passe toujours par faire voir ou raconter ce qui est lu dans les documents. Mais l’histoire ne peut se suffire d’être un récit, elle ne se réduit pas à une chronologie passive et à l’exhibition cumulative de propositions mathématiques, elle vise à une intelligibilité ; œuvre de connaissance, elle cherche à offrir quelque sens au lecteur. Alors le récit déplie, explicite, explique, s’organise en « intrigue », selon le terme de Paul Veyne 1. Simplifions la complexité : en fait, deux réseaux d’intrigues se déploient, celui qui porte les résultats mathématiques que les documents conservés attestent et dont la liste peut être faite (manuscrits, notes ou articles parus dans des revues, livres édités, correspondances), et celui des acteurs avec des personnalités, des intentions, des libertés et des hasards dont « la conduite se détache sur fond de normalité et de quotidienneté d’une époque » 2. L’un ne peut exister sans l’autre, ils sont accrochés l’un à l’autre en des nœuds dont les plus solides sont désignés comme « Théorème de Untel » avec dates, souvent seuls signes dans l’enseignement que les mathématiques sont œuvre humaine avec une histoire. Le travail d’analyse et d’explication consiste alors le plus souvent à remplir les trous de cette connaissance lacunaire en proposant des relations causales (avérées par les textes ou hypothétiques), en montrant comment à l’intérieur de la discipline se transforment les pratiques pour façonner de nouveaux objets ou concepts. Mais l’histoire est inséparable de l’historien. Il y a d’abord le choix du sujet, la manière dont on le délimite, on l’oriente, dont on en présente la compréhension. Dans cet effort de connaissance s’articulent ouverture à autrui et détachement. Un travail est nécessaire car l’intervalle de temps qui sépare de l’objet passé (textes anciens ou actions) n’est pas vide, les événements étudiés ont porté des fruits, ont eu des conséquences et la connaissance qu’on en a ne peut être coupée de tous ces effets. D’autre part, « la connaissance d’autrui est médiate, inférée des comportements et expressions de notre prochain, compte tenu de l’expérience que nous avons de nous-mêmes et de la société où nous vivons » 3. En écho à ces remarques viennent des propos d’Henri-Irénée Marrou sur le travail de l’historien : « un progrès non pas linéaire (ce qui serait d’un optimiste naïf), ni pendulaire (ce qui justifierait l’inquiétude du pessimiste), mais bien hélicoïdal – et nous avons choisi de préciser qu’il décrit une hélice conique, s’élargissant à chaque spire autant qu’elle progresse en profondeur », sur sa personnalité : « le meilleur historien […] est l’homme qui par sa structure mentale sera le mieux accordé à résonner harmoniquement, à faire écho, à percevoir la gamme de longueurs d’onde, spécifique de son objet » 4. Quand ce travail d’historien ou d’historienne des mathématiques est fait par quelqu’un qui crée des mathématiques et les pratique, l’objet passé est doublement saisi car il intéresse aussi, et peut-être d’abord, pour son contenu scientifique qui peut venir féconder des recherches en cours ou offrir une profondeur à des idées actuelles. Comment écrire alors l’histoire d’un problème avec rigueur et sans confusion ? Michèle Audin, mathématicienne, a pris le risque et se cherche une méthode ; récemment, elle a offert à un large public deux ouvrages dont la construction et les contenus mathématique et humain illustrent les facettes multiples de ce travail, sans clivage et sans mélanger les genres. Deux récits historiques et mathématiques, aux écritures différentes mais où la conteuse ne se dérobe pas. Souvenirs sur Sofia Kovalevskaya 5 est l’histoire d’une rencontre entre deux femmes, mathématiciennes et engagées dans leur temps. C’est aussi un travail de mémoire toujours rigoureusement porté par des documents originaux, textes autobiographiques et correspondances. Paul Veyne, op. cit. 3 Henri-Irénée Marrou, De la connaissance historique, éd. du Seuil, Paris, 1957 (rééd. 1975). 4 8 1 Paul Veyne, Comment on écrit l’ histoire, éd. du Seuil, Paris, 1978. 2 Paul Veyne, op. cit. Michèle Audin, Souvenirs sur Sofia Kovalevskaya, éd. Calvage et Mounet, Paris, 2008. 5 mémoires de sciences : rubrique dirigée par Rémi Franckowiak et Bernard Maitte / LNA#54 Le déroulement du récit n’obéit pas vraiment à un ordre chronologique linéaire ; les séquences offrent chacune un point de vue particulier sur la personnalité de Sofia Kovalevskaya et un événement de sa vie ; mais elles ne sont pas indépendantes, elles dialoguent et, au fil de la lecture, les thèmes s’élargissent et s’approfondissent. L’ouverture introduit les thèmes : dates de la vie de Sophie et, en parallèle, des repères de l’histoire politique, culturelle et scientif ique des pays européens qu’elle a traversés ; des « histoires » nous font plonger dans les événements et tracent les traits de sa personnalité. Apparaissent ainsi les contraintes et interdictions pesant sur Sophie et les femmes qui lui sont proches. Éternelle mineure, sans liberté de mouvement sauf à être mariée, sans accès possible à l’université, le veuvage est à peu près la seule façon pour une femme d’être majeure et respectable, et aussi libre qu’une femme peut l’être ; c’est ce qui se passera pour elle. une variable complexe) et se demande pour quelles autres formes de solides les solutions peuvent être de ce type. Elle montre alors que le mouvement ne peut être complètement décrit par des formules que dans les deux cas déjà traités et un troisième cas, celui d’un solide avec un axe de révolution orthogonal à la droite joignant le centre de gravité et le point fixe, ce solide va s’appeler « toupie de Kowalevski ». Le récit s’organise alors sur deux niveaux, des commentaires d’époque certes, mais c’est la mathématicienne qui fait comprendre. Qu’entendre par faire comprendre ? Avoir le souci de transmettre à des non-experts ce qui, d’une aventure intellectuelle particulière, peut être perçu dans sa généralité, tout en faisant l’impasse sur des technicités par ailleurs admirables : dessiner, expliquer, simplifier pour donner à voir les formes de pensée, trouver chez l’autre, le lecteur, le point de résonance qui va lui permettre de partager quelque chose des aspects de la pratique mathématique. À partir de ses propres questions de recherche sur l’intégrabilité des sysLe cœur du récit concerne les mathématèmes différentiels, elle a rencontré tiques et explique des mathématiques : le cas de la toupie de Kowalevski et, Sofia Kovalevskaya - août 1895 la thèse de Sophie d ’abord (1874), de là, elle a rencontré Sofia Kovalevsdirigée par Karl Weierstrass, puis les kaya. Elle explique donc en projetant articles sur le mouvement d’un solide autour d’un point fixe son expérience de mathématicienne, celle-ci lui perqui lui vaudront le prix Bordin de l’Académie des Sciences met d’argumenter et de démontrer avec soin en quoi de Paris (1888). ce travail est remarquable et novateur : il fait avancer un problème sur lequel d’autres ont travaillé, il en proLe théorème démontré dans la thèse, dit « théorème de pose une approche nouvelle qui conduit à appliquer des Cauchy-Kovalevskaya », généralise un résultat de Cauchy, il techniques nouvelles, il fait émerger de nouveaux proaffirme l’existence, sous certaines conditions, d’une solution blèmes, dont on recommence à parler près d’un siècle analytique locale unique pour une équation aux dérivées après. Des mémoires du prix Bordin à la connaissance partielles analytiques, et donne un contre-exemple montrant actuelle des différentes notions d’intégrabilité, cette l’optimalité de ces conditions qui surprend Weierstrass. histoire permet aussi de souligner, en passant, deux inLe problème du mouvement d’un solide pesant avec un variants dans l’exercice des mathématiques : étudier une point fixe est ancien, il traîne depuis le XVIIIème siècle. situation au miroir d’une autre (ici, examiner la possiIl s’agit de décrire explicitement le mouvement à l’aide de bilité pour un système différentiel d’être complètement fonctions ; Euler l’a résolu dans le cas où le centre de graintégrable à travers le groupe de Galois différentiel d’un vité du solide coïncide avec le point fixe, Lagrange dans le système linéaire associé), voir l’événement auquel on cas où la droite qui joint le centre de gravité au point fixe s’intéresse comme la trace d’une situation plus simple est axe de révolution du solide, le cas d’une toupie. Sophie en dimension supérieure (ici « la toupie de Kowalevski » remarque que, dans ces deux cas, les solutions sont des est la manifestation dans notre dimension 3 d’espace fonctions méromorphes du temps (considéré alors comme d’une famille de « toupies » qui apparaissent de façon 9 LNA#54 / mémoires de sciences : rubrique dirigée par Rémi Franckowiak et Bernard Maitte parfaitement naturelle en dimensions plus grandes, au cœur même des relations entre intégrabilité et algèbres de Lie affines » 6 ). Mais les mathématiques font partie de la vie et s’inscrivent dans une société, le récit montre comment était organisée et travaillait l’élite de la communauté mathématique de l’Europe occidentale au sein de laquelle Sophie a pu faire carrière, soutenue par ses amis Weierstrass et Mittag-Leffler, en surmontant difficultés et obstacles. À travers les documents d’époque est mise au jour la misogynie qui s’est exercée contre elle au-delà du strict cadre institutionnel : jugements condescendants sur son travail, manœuvres pour l’empêcher de recevoir des distinctions, accusations entretenues de dépendance scientifique vis-à-vis de Weierstrass, remarques désobligeantes sur son style de vie, rumeurs sur des erreurs qu’elle aurait commises dans son travail et, au final, refoulement de ce qu’elle a pu apporter. Sophie Kovalevskaya était internationalement connue et avait une excellente réputation scientifique à l’époque, ce n’est plus tout à fait le cas aujourd’hui. Un roman s’est construit sur son histoire pour en faire un personnage en phase avec l’idée conventionnelle de la féminité. Fatou, Julia, Montel, le grand prix des sciences mathématiques de 1918 et après… 7 a une structure moins déconcertante et l’empathie est moins forte avec le personnage un peu oublié de Fatou. Mais, le choix est ici encore de faire reconnaître l’importance des travaux de Fatou et sa modernité dans son époque, d’expliquer pourquoi il est cependant mal connu et comment cette méconnaissance puise dans sa personnalité et dans l’histoire événementielle, celle de la guerre de 1914-1918, véritable tuerie dans laquelle les jeunes intellectuels français de l’ENS ont payé un particulièrement lourd tribut. Le récit est une histoire d’hommes, il suit un ordre à peu près chronologique, celui des documents sortis des comptes rendus de séances de l’Académie des sciences, des mémoires publiés, des correspondances. L’ouverture présente les thèmes en 1915, le problème et les personnages, mais c’est la guerre qui sonne le glas, une génération de mathématiciens a été sacrifiée et décimée. Pierre Fatou, 32 ans en 1914, de santé fragile, n’a pas été mobilisé ; Gaston Julia, brillant norma6 Michèle Audin, op.cit. Michèle Audin, Fatou, Julia, Montel, le grand prix des sciences mathématiques de 1918, et après…, éd. Springer, Berlin, 2009. 7 10 lien, gravement blessé en janvier 1915 quelques mois après être parti au front, renaît à la vie dans les souffrances d’une hospitalisation au Val de Grâce en travaillant les mathématiques ; « gueule cassée », il portera toute sa vie un masque de cuir. Hadamard, Jordan, Borel, Picard ont perdu des fils dans la tourmente et celui-là qui est revenu sera leur gage de renouvellement possible, ils soutiendront sa carrière. L’itération des fractions rationnelles dans le domaine réel est une question ancienne, liée à la résolution approchée des équations algébriques par la méthode de Newton. Dans les dernières années du XIXème siècle, l’extension de cette méthode au domaine complexe a été étudiée d’un point de vue local. Les travaux de Gabriel Koenigs ont conduit à la notion de points d’attraction : si est un point fixe de la fonction, sous certaines conditions, les transformés successifs d’un point z pris au voisinage de tendent vers . De nombreux problèmes se posent alors : les points attractifs sont-ils en nombre limité, quel est le domaine d’attraction de l’un d’eux, quelle division du plan est ainsi associée à une fonction donnée ? La note de Fatou de 1906 est une première tentative pour une étude globale, il y montre en gros que les itérées d’une fraction rationnelle avec un unique point fixe convergent vers ce point sauf sur un ensemble totalement discontinu et parfait ; dans les autres cas, les lignes qui séparent les domaines de convergence ne sont pas, en général, analytiques. C’est la première fois que cette question rencontre « la théorie des ensembles de points » (devenue la topologie générale). En décembre 1915, l’Académie des sciences met au concours, pour l’année 1918, l’étude de la suite des puissances d’une même substitution, en fonction du choix d’un élément initial. Fatou et Julia, jeunes mathématiciens bénéficiant, par leurs études à l’ENS, d’un corpus de connaissances commun, travaillent indépendamment le sujet du concours. Le récit suit le rythme des notes de Fatou présentées en séance à l’Académie et celui des plis cachetés déposés par Julia. Ce dernier apporte, le 24 décembre 1917, son manuscrit concourant pour le grand prix et demande par lettre l’ouverture de ses plis affirmant, avec une certaine arrogance, qu’ils contiennent les résultats annoncés par Fatou dans sa dernière note, assertion que l’Académie juge fondée. Fatou ne concourt pas, laissant la place libre à Julia, tout en continuant à travailler la question et à publier. Mais, si le problème de l’itération est au cœur des mathématiques du récit, il ne s’agit pas d’une histoire de ce mémoires de sciences : rubrique dirigée par Rémi Franckowiak et Bernard Maitte / LNA#54 1 problème ; il suffit, pour le voir, de le comparer avec le texte de D.S Alexander 8 par exemple. Il ne s’agit pas non plus d’une lecture mathématicienne des articles qui éclairent les résultats nouveaux en remettant en place les filiations depuis Fatou et Julia 9. 2 L’explication mathématique des mémoires de l’un et de l’autre fait comprendre comment deux mathématiciens, au sein d’une communauté, aboutissent indépendamment sur un même problème à des résultats analogues avec des styles mathématiques différents (Julia dans l’analyse complexe « à la Picard », Fatou, de par la théorie de la mesure, plus ouvert à la topologie générale en création). Faire saisir comment ces travaux construisent de nouveaux objets et installent peu à peu un vocabulaire, comment cette recherche, quoique spécialisée, convoque pour avancer d’autres branches des mathématiques. Un des beaux moments de l’intrigue mathématique est certainement la prise en main par l’un et l’autre, sans concertation réciproque, de l’outil Daniel S. Alexander, A history of complex dynamics from Schröder to Fatou and Julia, Vieweg § Sohn, Braunschweig/Wiesbaden, 1994. des familles normales de fonctions méromorphes, présenté par Paul Montel dans une note de 1917, ce qui montre à quel point les pratiques sont déterminantes dans le travail mathématique. Après les publications de Fatou et Julia, la théorie des ensembles de Julia s’endort pendant 50 ans environ (Julia n’a pas eu d’élèves intéressés à cette question et Fatou, astronome-adjoint à l’observatoire de Paris, est à l’écart et meurt assez jeune). Elle se trouve réactivée par le travail de B. Mandelbrot sur des phénomènes naturels ou autres qui n’obéissent pas au hasard circonscrit dans la loi des grands nombres. Il présente, en 1980, les aspects fractals d’une itération ; des images d’ensembles de Julia peuvent alors être vues réellement, en rapport avec un nouvel objet, « l’ensemble de Mandelbrot ». Depuis, l’expérimentation mathématique via le support des machines amène à de nouvelles découvertes et beaucoup prospectent la théorie. L’autre partie du récit, inséparable de la première, ni en contrepoint, ni en avant-scène, détachée et présente, dessine les personnalités, les relations humaines à l’intérieur de la communauté mathématique française et le traumatisme de la guerre. Cette tension parcourt la forme chronologique du récit : l’effort de guerre des mathématiciens, l’ambiance patriotique, la propagande, la collaboration coupée pour de longues années avec les mathématiciens allemands, la toute puissance d’Émile Picard, les coteries et les querelles de priorité. Ces deux études de cas dépassent leurs singularités, elles dégagent sur fond d’époque un paysage du monde mathématique et offrent ainsi une sorte de miroir à notre communauté où coexistent réaction et audaces. Elles racontent comment les mathématiques actuelles peuvent se créer sans rien perdre de leurs origines tout en s’en détachant, ouvertes à d’autres transformations, comme va la vie. 8 Voir pour cela Paul Blanchard, « Complex analytic dynamics on the Riemann sphere », Bulletin of the AMS, vol 11, 1984 ; ou F. Haeseler et H.O. Peitgen, « Newton’s method and complex dynamical systems », Acta applicandae mathematicae, 13, 1988. 9 1 - The Mandelbrot set and some magnifications. 2 - Four different Julia sets of pc(z) = z 2 + c. Newton’s Method and Complex Dynamical Systems F. Haeseler and H.O. Peitgen Acta Applicandae Mathematicae 13 (1988), 3 58. 3 © 1988 by KluwerAcademic Publishers 11