Stéphane Mallat, médaille d’or du CNRS : "Les mathématiques ne se découvrent pas dans un livre"

L'intérêt de Stéphane Mallat pour l'intelligence artificielle remonte à son doctorat, à l’université de Pennsylvanie, à la fin des années 1980. Le chercheur a ensuite travaillé sur la perception visuelle et le traitement du signal. Puis il s'est éloigné de l'IA, pour mieux y revenir "quand les réseaux de neurones ont commencé à démontrer des performances spectaculaires, d'autant que les mathématiques sous-jacentes étaient devenues beaucoup plus larges et intéressantes", explique-t-il à L'Express.

Polytechnicien, ancien président du département de mathématiques appliquées de l’X, Stéphane Mallat est professeur au Collège de France, membre de l’ENS–PSL et chercheur de l’IA Cluster PR[AI]RIE. Il a reçu en 2025 la médaille d'or du CNRS pour sa contribution au rayonnement de la recherche tricolore. L'Express lui a attribué, lundi soir, le Prix de la Science pour son initiative MathAData, qui vise à transmettre aux lycéens sa passion pour les maths.

L'Express : Quelles similitudes voyez-vous entre l'apprentissage des réseaux de neurones artificiels, qui sont au cœur de la révolution IA, et l'apprentissage humain ?

Stéphane Mallat : Il y en a beaucoup. Dans les deux cas, on tente de résoudre les mêmes problèmes extraordinairement complexes : la vision, le langage, la compréhension du monde physique… Prenez une image. C'est un million de pixels, donc un million de variables. Cet effort de résolution oblige l’humain, comme l’ordinateur, à simplifier la structure du problème afin de le rendre traitable. Des expériences en neurophysiologie le montrent. Qu'elles soient artificielles ou biologiques, les premières couches de réseaux de neurones réagissent de la même manière lorsqu'une information leur arrive. Elles effectuent ce qu'on appelle une transformation en ondelette [NDLR : une opération mathématique qui décompose un signal, tel qu'un son ou une image, en versions de plus en plus simplifiées pour en faire apparaître les structures à différentes échelles, par exemple les grands contours, puis les détails]. Il y a toujours eu un débat philosophique entre une vision très rationaliste selon laquelle la connaissance se capture par un raisonnement logique qui conduit à une vérité, et une approche plus empirique, qui part des données et acquiert de la connaissance grâce à des calculs de probabilités. La seconde correspond exactement à ce que fait l’IA. Quant aux différences entre l’apprentissage des humains et des IA, elles tiennent largement au hardware. Un bébé apprend avec beaucoup moins de données qu'un grand modèle de langage, mais il bénéficie d'une immense partie déjà codée dans son ADN. La biologie est bien plus efficace que le silicium. Un point fondamental est commun aux deux : on apprend en corrigeant ses erreurs.

Les grands modèles de langage sont-ils en train d'atteindre un plateau ?

Le plateau, pour l'instant, on ne l'a pas vu. Il y a un an, personne n'envisageait d'utiliser ces outils pour faire de la recherche. Or, aujourd'hui, beaucoup de mathématiciens, notamment les jeunes, les utilisent en interaction pour faire de la recherche en maths. La médaille d'or aux Olympiades internationales de mathématiques a été obtenue par ce type de système. Tout cela s'est passé ces douze derniers mois. On est toujours dans la courbe d'explosion. Cela dit, que ces systèmes aient des limites intrinsèques et qu'il faille explorer d'autres approches, oui, certainement. Le débat scientifique est totalement ouvert.

Yann Le Cun préconise justement d'explorer une nouvelle voie baptisée "world model". Qu'en pensez-vous ?

L'approche de Yann Le Cun est très intéressante, et en même temps elle soulève des questions. L’idée qui la sous-tend est qu’il est idiot de vouloir reconstruire la distribution de probabilités de toute l'information brute, et qu'il vaut mieux définir un espace de variables signifiantes. Cette idée est séduisante. Elle n’est pas neuve toutefois. Dans, les années 1980-1990, les chercheurs en débattaient déjà. Le problème est : comment déterminez-vous qu’une information est utile ? Une grande partie de l’activité cérébrale humaine est inconsciente. On ne sait pas ce qui est important. C’est pourquoi les travaux précédents ont mené à une impasse. L’hypothèse reste donc à valider, mais elle est porteuse.

La causalité est l’autre point important de l’approche prônée par Yann Le Cun. La grande surprise des LLM est qu’ils fonctionnent sans recourir à la logique formelle et à la causalité. Rappelant ce que pointait le mathématicien Henri Poincaré : avant la logique, il y a l'intuition. Comprendre le sens, trouver le chemin, c'est souvent ce qui vient en premier. La logique surgit ensuite, pour valider. Avec l'essor de la robotique, l’IA moderne va certainement intégrer plus étroitement la causalité car celle-ci apparaît lorsque le système peut agir sur le monde et observer la conséquence de son action. En somme, je ne pense pas que l’IA atteigne de sitôt un plafond. Yann Le Cun fait partie des chercheurs extraordinairement talentueux qui vont pousser la discipline dans de nouvelles directions.

Dans quelle mesure l'intelligence artificielle générative a-t-elle changé votre manière de faire de la recherche en mathématiques ?

Elle n'a pas changé ma façon de faire de la recherche, elle en est devenue un sujet à part entière. Etre capable de générer des données, c'est avoir défini la distribution de probabilités de ces données, c'est-à-dire caractériser mathématiquement ce qui est typique. C'est ce qu'on appelle la physique statistique. Il y a quelques années, les maths sous-jacentes restaient très obscures. On les comprend désormais bien mieux. On sait que ces réseaux font essentiellement du transport. Ils prennent des données dans leur état brut et les transportent, couche après couche, vers l'état désiré. Pour la classification d’images de chat ou de chien, on pousse ainsi un point vers l'une des classes possibles. Pour la génération, on part d'un bruit informe, similaire à la "neige" d'un écran, et on le transporte vers un visage. C'est un transport de probabilités. Pour moi, c'est un sujet de mathématiques. J'utilise également les LLM pour apprendre. Au Collège de France, je dois préparer un nouveau cours chaque année, donc me familiariser en permanence avec de nouvelles notions. Or les mathématiques ne se découvrent pas dans un livre. Les manuels vous plongent sans transition dans la technique, c'est trop abscons au démarrage. En fait, ils ne sont utiles qu’une fois l’idée générale comprise. A l'inverse, l'interaction avec ChatGPT ou Mistral permet de saisir les idées rapidement, de trouver des correspondances avec ce que l’on connaît déjà. Quand ils font une erreur - et il y en a -, je reviens au livre pour vérifier. Mais les grands modèles de langage me sont d’un grand secours pour aborder de nouveaux pans de ma discipline. Le grand avantage de ces IA, c'est qu'elles ne vous jugent pas. Quand on interroge un expert, on pose deux ou trois questions, puis on s'arrête par peur de l’ennuyer ou de paraître bête. Avec un LLM, on peut poser sans réserve quinze questions naïves, mais importantes. C’est précieux.

En quoi consiste MathAData, cette initiative que vous avez lancée il y a trois ans ?

D’une manière générale, l’enjeu est de réveiller l'intérêt des élèves pour les maths et de les aider à parcourir ce chemin de la problématique concrète à l'abstraction. La plupart des grandes branches des mathématiques sont issues de questions qui viennent du monde, et l'intuition se construit à partir d'images qui sont en lien avec des choses qu'on connaît, qu'on sait manipuler. D'une certaine façon, on réintroduit des travaux pratiques de mathématiques à l'école, avec l'objectif de faire comprendre aux lycéens et aux collégiens que derrière l'IA, il y a de l'informatique, mais surtout des maths.

Concrètement, comment ça marche ?

On propose aux enseignants du secondaire une batterie d'exercices, sur ordinateur, qui font le lien avec leur programme et qui s'appuient sur les mathématiques qui sous-tendent l'intelligence artificielle. On part de problèmes concrets : un électrocardiogramme de fœtus pour décider si une césarienne s'impose, une image à laquelle il faut associer un chiffre, un texte dont il faut déterminer si l'auteur est Corneille ou Molière. Ces problèmes mobilisent tout le programme : statistiques, probabilités, géométrie... Une convention citoyenne organisée par le CNRS a mis en lumière le fait que les Français admirent les maths, en comprennent l'intérêt, mais ne voient pas le lien avec les problématiques concrètes. Dans l'enseignement, la grande difficulté est le passage à l'abstraction, perçue comme un plafond de verre. Il y a aussi cet a priori d'une matière certes noble, mais élitiste. Autant d'idées reçues contre lesquelles il est très important de lutter. L'enjeu n'est pas d'apprendre l'IA, c'est de comprendre les maths. Au passage, on comprend aussi mieux l'IA, pourquoi elle fait des erreurs et dans quelles conditions.

Quel bilan tirez-vous des débuts de MathAData ?

Pour l'instant, cette initiative codéveloppée avec le ministère de l'Education nationale a permis de former 350 professeurs. Plus de 2 000 lycéens en ont bénéficié. De l'avis des enseignants, l'effet le plus frappant est la remotivation des classes et la capacité de récupérer des élèves qui décrochent. Avec le soutien du ministre de l'Education, nous prévoyons un passage à l'échelle à partir de septembre.

Comment le niveau de mathématiques évolue-t-il selon les pays ?

Les enquêtes internationales comme PISA et TIMSS sont extraordinairement précises. Depuis plus de 15 ans, le niveau de la France baisse, un problème trop longtemps ignoré. Maintenant qu'on se retrouve en queue de peloton des pays européens et de l'OCDE, la gravité de la situation est criante. Il y a quinze ans, les jeunes Français qui partaient aux Etats-Unis avaient un an d'avance en maths. Aujourd'hui, c'est l'inverse. Les lycéens ukrainiens accueillis au début de la guerre en France étaient devant les nôtres. Certains pays ont redressé la situation. On prend souvent Singapour comme modèle, mais citons aussi le Portugal et l'Angleterre : les politiques publiques peuvent changer la donne, à condition d'être mises en œuvre dans la durée. Il n'y a pas de fatalité. Il est aussi indispensable de valoriser la profession d'enseignant en mathématiques.

La Chine s'est-elle également améliorée significativement ?

Je discutais récemment avec un postdoc chinois de mon équipe, qui a fait toute sa scolarité en Chine. Il m’expliquait que là-bas, les parents, dès qu'ils le peuvent, financent pour leurs enfants des cours de maths après l'école. Les maths, et plus largement les sciences fondamentales, y sont un enjeu de la réussite sociale. Un peu comme en France dans les années 1960, avec bien sûr les excès que cela peut entraîner. Mais il faut reconnaître qu'une expertise de très haut niveau s'y construit.

Les professeurs de maths ont le même salaire que les autres enseignants, mais ils sont très bien rémunérés par les parents pour les leçons qu'ils dispensent après les cours. En France, c'est une profession qui n'est pas bien payée ni considérée, les conditions de travail sont difficiles. Cela décourage les vocations. Un enseignant de Paris 7 m’expliquait que, malgré la réforme du concours de recrutement des professeurs, le nombre d'élèves en licence s'y préparant avait chuté en quelques années de 70 à 10.

Dans la recherche ou l'ingénierie, s'oriente-t-on vers une pénurie de profils en France ?

Oui, et le directeur général de Safran, Olivier Andriès, a lancé ce cri d'alarme récemment. Le système mathématique français fonctionne en entonnoir, avec à la fin 40 personnes sélectionnées à l'Ecole normale supérieure. Quand la base était très large, ce modèle fonctionnait. Si elle se réduit, non seulement le niveau montera moins haut, mais les couches intermédiaires se resserreront. Or, on ne sait pas d'où peuvent venir les talents. Il y a besoin de diversité, et le dire ne relève pas du politiquement correct.

En recherche, il faut une variété de points de vue pour arriver à des conclusions intéressantes, nouvelles. Idem dans le travail d'ingénieur. Cet enjeu économique, très important, est le même qui s'était posé en 1950, quand le choix a été fait de privilégier les sciences et les maths pour faire redémarrer l'économie et avoir une nation compétitive au niveau technologique. Ingénieurs, dirigeants d'entreprise, chercheurs… Tout le monde est bien conscient qu'il n'est pas tenable de lâcher le primaire et le secondaire pour se concentrer sur l'université.

Comment l'intelligence artificielle peut-elle influencer notre façon d'apprendre ? Mal employée, pourrait-elle nous rendre idiots ?

En permettant un tutorat dédié, l'IA peut clairement nous aider à apprendre, enfants comme adultes. Des expériences le prouvent. Néanmoins, pour apprendre, il faut en avoir envie et que cela ait du sens. Or, le sens et l'envie sont transmis par des professeurs et plus généralement par le lien humain. Des expériences cognitives ont montré qu'un bébé apprend de ses parents, des membres de sa famille, mais pas d'un inconnu. Il faut une relation de confiance. Pour autant, je ne pense pas que l'IA va nous rendre tous idiots. La limite majeure de ces systèmes aujourd'hui, c'est qu'ils fonctionnent à partir de l'écrit, sans expérience du monde. Donc l'interaction, richesse essentielle pour acquérir des connaissances, c'est nous qui la faisons. L'utilisateur a ce rôle fondamental, qui nécessite de faire des allers-retours entre expérience et abstraction. L'IA est aussi capable de se tromper, il est donc important de garder son esprit critique. Il faut toutefois reconnaître que leur niveau augmente. Face à des élèves de primaire, de collège ou de lycée, les IA ne feront pas beaucoup d'erreurs. Il va donc falloir s'adapter, et là encore, les professeurs sont en première ligne face aux enfants qui utilisent massivement ChatGPT pour faire leurs devoirs.

Y a-t-il un tri à faire entre ce qu'on peut demander à l'IA et ce qu'on a intérêt à ne pas lui déléguer, afin d’entretenir notre processus cognitif ?

Il y a des savoirs fondamentaux à acquérir. Prenons le calcul mental. Il est très important que les enfants apprennent à calculer de tête parce que cette faculté libère leur cerveau pour passer aux étapes d'après, telles que la résolution d'équations. Si on est déjà bloqué sur 3 + 5, on n'arrive pas à aller au-delà. Les élèves qui développeront ces capacités bénéficieront d'une autonomie par rapport aux autres.

Il faut donc enseigner ces fondamentaux, en interdisant l'utilisation de l'IA dans les classes, comme le font les professeurs. Mais ne soyons pas pessimistes. On a souvent tendance à imaginer que les choses vont mal tourner. Ce ne sera le cas que si on reste passifs. Actuellement, aucun expert ne sait comment les choses vont évoluer. Il faut s'adapter et faire en sorte que la puissance publique conserve un droit de regard sur ses sujets.

Dans ce monde bouleversé par l'IA, quel conseil donneriez-vous aux lycéens qui s'interrogent sur la filière à choisir pour répondre aux besoins du marché du travail demain ?

Comme personne n'a de capacité de prédiction, ils doivent partir de ce qui les intéresse et s'orienter en fonction. Il y a encore peu de temps, l'informatique apparaissait comme le domaine du futur à recommander à nos enfants. On se rend compte aujourd'hui qu'on ne sait pas ce qu'il va advenir de cette filière d'ici deux ou trois ans.

Vous ne faites pas partie de ceux qui jugent qu'il est inutile de faire des études ?

Ce serait scier la branche sur laquelle nos enfants sont assis ! Il est certain, néanmoins, qu'un transfert sur le marché du travail va s'opérer, notamment vers les métiers manuels. Les écoles elles-mêmes doivent s'adapter. Des établissements qui ont très bien fonctionné, comme l'Ecole 42 qui fabrique des bataillons de codeurs en un ou deux ans seulement, sont aujourd'hui bousculés par l'IA. Ils vont devoir se repenser.