Les bases cognitives des mathématiques

La psychologie et l’éthologie cognitive ont permis, au cours de ces trente dernières années, d’accumuler une quantité extraordinaire de preuves expérimentales de l’existence d’un ensemble d’intuitions arithmétiques et géométriques innées partagé par les êtres humains et plusieurs autres espèces animales. Les livres de Stanislas Dehaene, titulaire de la chaire de psychologie cognitive expérimentale au Collège de France, et de Giorgio Vallortigara, professeur de neuropsychologie à l’université de Trento (Italie), tracent une vaste fresque de ce que la science contemporaine sait à propos des bases cognitives des mathématiques. Les deux livres, écrits pour être lus par tout public, traitent en détail les mécanismes cognitifs communs à Homo sapiens et aux autres espèces, ainsi que les racines profondes de ce que Dehaene, dans son livre, appelle la spécificité humaine.

Il y a presque un an, dans le numéro du 24 juillet 2025 de la revue Nature, était publiée une étude intitulée « Rapid emergence of a maths gender gap in first grade » destinée à raviver la discussion, toujours d’actualité, sur les causes de la disparité de genre dans le domaine STIM (sciences, technologie, ingénierie, mathématiques). Les résultats, assez sidérants, montrent que les garçons et les filles possèdent, en moyenne, les mêmes aptitudes géométriques et arithmétiques à leur entrée en CP. Quatre mois de scolarisation suffisent à créer une séparation de genre, les garçons prenant l’avantage en mathématiques sur les filles. Un écart qui ne fait que s’accentuer dans les tests effectués douze mois plus tard, au début du CE1.

Un coup d’œil sur la liste des auteurs permet d’y découvrir Stanislas Dehaene et Elisabeth Spelke, deux des personnalités les plus influentes dans le domaine des sciences cognitives de ces trente dernières années. Ils ont tous deux contribué de façon essentielle à la consolidation de l’un des modèles de l’activité du cerveau qui dominent aujourd’hui les sciences cognitives en s’appuyant sur la notion de socle de connaissances, « core knowledge » en anglais. L’idée est que le cerveau humain, comme celui de plusieurs autres espèces, possède depuis la naissance un ensemble de modules cognitifs très spécialisés. Chacun aide l’individu, sans qu’il ait besoin d’un apprentissage antérieur, à interagir avec les objets, les autres individus, leurs actions, ainsi qu’à s’orienter dans l’espace. Un certain nombre d’entre eux sont spécialisés dans le traitement mathématique des informations numériques (quantité d’objets) et géométriques (orientation et position dans un espace euclidien). Cela fait que les enfants, même avant douze mois, ont la capacité de reconnaître le nombre d’objets d’un ensemble de façon tout à fait abstraite.

Abstrait ici signifie que certains neurones déchargent avec plus d’intensité quand le nombre d’objets visualisés est proche de quatre, indépendamment de la forme, de la couleur ou de la taille des objets en question. Grâce au socle de connaissances arithmétiques, on peut comparer la quantité d’objets contenus dans deux groupes, avec une précision qui dépend du rapport entre le nombre d’objets présents dans les deux ensembles. Un module cognitif similaire aide à s’orienter dans l’espace. Il évalue, par exemple, la position d’un objet caché dans une chambre de base rectangulaire grâce à une estimation de la distance depuis les parois de la chambre. Là aussi, il a été possible de démontrer que ce socle géométrique reconnaît la chambre comme un parallélépipède universel, dépouillé de toute spécificité. Si la chambre contient un élément d’orientation circonstanciel, disons la couleur de l’une des parois, les animaux ainsi que les enfants jusqu’à 18 mois en font abstraction. Ils n’utilisent que des informations géométriques abstraites, des distances, des coordonnées.

Les protocoles utilisés dans l’étude de Nature pour évaluer les capacités préscolaires des enfants s’appuient largement sur la découverte des socles de connaissances. Ceux qui voudraient avoir un aperçu complet de l’état de l’art actuel sur les bases cognitives des mathématiques, ainsi que sur les aptitudes innées des êtres humains et d’autres espèces dans ce domaine, en trouveront deux, magistralement écrits et accessibles à tous, dans Le rectangle de Lascaux de Stanislas Dehaene et dans Le poussin de Kant de Giorgio Vallortigara.

Le livre de Dehaene est traversé par deux thématiques principales. La première présente l’ensemble des hypothèses et des preuves expérimentales qui ont amené l’auteur, avec plusieurs autres chercheurs dont Elisabeth Spelke, Andreas Nieder et Giorgio Vallortigara, à la conviction qu’il existe chez les êtres humains et chez plusieurs autres espèces des concepts abstraits, innés, agissant de façon préconsciente, définissant une sorte d’intuition mathématique (numérique et géométrique) universelle. Le terme universel se réfère ici au fait que ces concepts ne dépendent ni de l’expérience individuelle, ni de l’espèce animale, ni de l’histoire ou de la culture. Le rectangle du titre fait justement référence à la présence de traces de ces concepts dans des artefacts humains faisant partie d’une culture extrêmement éloignée de la nôtre. Par-delà Lascaux, on retrouve des motifs géométriques, des triangles, des cercles, des angles droits, des parallèles, des zigzags partout sur les artefacts préhistoriques.

Selon Dehaene, il serait illusoire d’essayer de lire ces symboles comme un code, un langage, d’autant plus que des traces similaires se retrouvent sur des objets, tel le zigzag de Trinil à Java, datant de plus de 500 000 ans, donc précédant l’apparition d’Homo sapiens. L’auteur présente en détail les tests cognitifs qui montrent à quel point les core knowledges numériques et géométriques sont partagés par les humains adultes même dans des contextes culturels où les mathématiques, en tant que discipline historiquement définie, n’ont pas connu de développement. Plusieurs pages sont aussi dédiées aux techniques, telle l’imagerie fonctionnelle par résonance magnétique (IRMf), qui ont permis d’isoler, en les visualisant, les mécanismes cérébraux sous-jacents aux raisonnements mathématiques.

Un chapitre consacré à l’étude des socles de connaissances chez plusieurs espèces animales, allant des primates aux poissons et aux abeilles, nous conduit vers l’un des grands spécialistes dans ce domaine, Giorgio Vallortigara. Ce dernier a montré que des poussins, tout juste sortis de l’œuf, possèdent déjà des a priori numériques, géométriques et physiques. Le poussin de Kant examine en 29 brefs chapitres les questions principales dont traite l’éthologie cognitive contemporaine.

Deux éléments assez intrigants émergent clairement du premier axe du livre de Dehaene et de celui de Vallortigara. D’abord, les socles de connaissances numériques et géométriques sont présents de façon similaire chez plusieurs espèces ; c’est un élément qui, en plus de rapprocher l’humain de l’animal, semble indiquer une origine primordiale, sur le plan évolutif et adaptatif, de ces socles. Ensuite, il est désormais évident que les intuitions arithmétiques et géométriques, et par ailleurs celles de la musique, précèdent le langage et en sont totalement indépendantes.

Dans le second axe thématique Dehaene essaie de définir en quoi, malgré le partage d’autant de socles de connaissances,  Homo sapiens se différencie des autres espèces. Ici s’entremêlent davantage des idées relativement acquises avec des questions ouvertes et encore assez controversées. Dehaene n’hésite pas à prendre parti montrant bien le scientifique qu’il est en pleine action, à cheval entre des connaissances partagées et des convictions guidant ses recherches.

Le rectangle du titre fait allusion justement à une spécificité humaine. Il constitue, on l’a dit, une trace d’un core knowledge géométrique. Pourtant, aucune autre espèce ne nous laisse de pareilles traces. En effet, une série d’expériences a montré à quel point un enfant détecte spontanément les régularités et les symétries d’objets géométriques simples, rectangles, triangles, cercles, comme aucun autre primate n’arrive à le faire. Pourquoi les symétries ? L’explication nous vient de la théorie de la calculabilité. Associée aux noms d’éminents mathématiciens tels Alan Turing, Stephen Kleene et Alonzo Church, elle s’appuie sur l’hypothèse que tous les traitements d’informations qu’un système physique est capable d’exécuter peuvent être assimilés à un ensemble de règles de calculs. Or, la clé pour exécuter un programme en utilisant une mémoire limitée est la compression du calcul. L’assimilation des objets du calcul à des formes idéalisées est la voie que, par l’évolution, le cerveau humain a adoptée pour comprimer les opérations qu’il utilise afin d’appréhender la réalité et en manipuler l’image mentale. Les opérations de symétrie, telles que les rotations d’un polygone régulier autour d’un axe, sont un exemple de processus itératifs pouvant grandement simplifier un programme de reconnaissance spatiale. Or, un algorithme qui trace des figures géométriques dans un espace mental peut aussi servir – l’intelligence humaine étant constituée d’une pensée incarnée dans un corps – à dessiner ces figures.

Voilà, selon Dehaene, l’origine de l’extrême attention que la perception de formes géométriques élémentaires suscite chez tout être humain, enfant ou adulte, et voilà expliquée l’irrésistible tendance à en tracer. Cette capacité innée, qui caractérise notre espèce, de manipuler les objets mentaux nous ramène à un concept qui a été originairement formulé dans l’étude du langage. Depuis les années 1970, on sait qu’il est possible d’enseigner à des singes des signes associés à des objets. En revanche, tandis que les enfants dès qu’ils commencent à apprendre des mots les combinent en formant de nouvelles phrases, on ne rencontre chez aucune autre espèce cette capacité d’articuler spontanément une syntaxe. La psychologie cognitive applique à la manipulation des concepts pré-linguistiques dont se composent les différents socles de connaissances les idées de syntaxe et de générativité chères à la linguistique chomskyenne.

Les êtres humains auraient donc la capacité d’articuler une syntaxe entre concepts abstraits faisant partie du même socle, mais aussi appartenant à des socles différents. Le rat et l’enfant de moins de 18 mois qui n’utilisent qu’un socle géométrique abstrait pour s’orienter dans une chambre ne font pas le pont entre ce socle et celui qui reconnaît des objets spécifiques. L’adulte, par contre, se sert d’une syntaxe qui combine des objets provenant de socles différents, dépassant ainsi la nature modulaire de ces derniers. Dehaene adopte la distinction entre index et symbole proposée par Charles Sanders Peirce aux États-Unis au début du siècle dernier. L’index est un signe caractérisé uniquement par une correspondance entre signifiant et signifié. Le symbole posséderait aussi un réseau de liens avec d’autres symboles. Les êtres humains seraient les seuls animaux à utiliser spontanément, depuis la naissance et de façon généralisée, une pensée symbolique tandis que les autres espèces se limiteraient, dans le meilleur des cas, à se servir de signes indexicaux, soit de signes isolés, dépourvus d’une structure syntaxique les liant entre eux. 

Ensuite, dans l’un des chapitres les plus ambitieux du livre, l’auteur montre comment, à partir d’une recomposition générative de l’ensemble des symboles arithmétiques et géométriques que nous recevons dès la naissance par le biais des socles de connaissances, trouvent leur origine tous les concepts mathématiques, même les plus abstraits comme l’imaginaire i = √-1. Le sujet est particulièrement délicat puisqu’on est à la frontière entre les mécanismes  innés et le développement culturel des mathématiques en tant que langages codifiés propres à différentes cultures. L’intuition de l’espace euclidien est universelle, en revanche la méthode asymptomatique a été inventée par Euclide d’Alexandrie au IV^e siècle avant notre ère. L’association de la séquence numérique à une ligne allant de gauche à droite est un a priori qu’on partage même avec les poussins du livre de Vallortigara. Cependant, l’invention des graphiques de données est due à René Descartes.

Ici, l’enthousiasme de Dehaene pour une vision embrassant l’inné et l’acquis paraît, par moments, excessif. On ne peut que partager son admiration pour le tunnel d’Eupalinos, 200 m percés en ligne droite en creusant à partir des deux côtés d’une montagne dans l’île de Samos. Néanmoins, Eupalinos de Mégare vécut au VI^e siècle avant notre ère, quelques années après Thalès de Milet et quelques années avant Anaxagore. La réalisation du tunnel de Samos est presque contemporaine du début de la construction de Persépolis, de la construction du temple d’Aphaïa sur l’île d’Égine. En quoi donc un ingénieur civil de cette époque serait plus « proche » des a priori cognitifs proto-mathématiques que ne le seraient des architectes modernes tels Le Corbusier ou Oscar Niemeyer ?

Le livre se clôt sur la présentation d’une hypothèse, récemment avancée par Dehaene, visant à reconstruire les principales étapes de l’évolution de la cognition humaine : depuis l’apparition, il y a environ 1,7 million d’années, des idées proto-mathématiques jusqu’à leur composition syntactique, il y a environ 300 000 ans, avec Homo sapiens, pour finir avec la grande accélération déterminée par l’apparition du langage. Dans son Abstraktion und Einfühlung (Abstraction et empathie), publié en 1908, Wilhelm Worringer identifiait pour la première fois l’abstraction géométrique à une forme d’art fondatrice. Dans la postface de la réédition de 1959, Worringer se voyait obligé de défendre sa thèse au regard de l’extraordinaire naturalisme mimétique des peintures de Lascaux. On aimerait pouvoir lire la postface qu’il écrirait aujourd’hui, après avoir lu Le rectangle de Lascaux de Stanislas Dehaene.