Arsac G. (1996)
Un cadre d'étude du raisonnement mathématique.

in: Grenier D. (ed.) Séminaire Didactique et Technologies Cognitives en Mathématiques. Grenoble : IMAG.

Abstract
Résumé de l'article en taille 2.

© Gilbert Arsac

1. Buts de ce travail

Il s'agit de réfléchir sur le raisonnement, dans le but de produire un cadre d'étude du raisonnement utilisable par la didactique des mathématiques, et ceci en prenant pour point de départ l'activité du mathématicien et sa réflexion sur sa pratique aussi bien contemporaine que passée. A priori, ce cadre peut être considéré comme concurrent de celui élaboré par R. Duval (1995, ch V) à partir d'une approche différente qui relève d'abord de la psychologie cognitive, mais qui tient compte également des spécificités des mathématiques, et en particulier de l'importance qu'y prennent les systèmes de représentations symboliques. Cependant je pense qu'en fait les deux approches sont complémentaires, et que d'autres approches encore seront nécessaires pour étudier un phénomène aussi complexe. A posteriori, le présent travail apparaît aussi parfois comme une synthèse de travaux antérieurs en didactique; ce dernier aspect s'est révélé peu à peu, il n'était pas présent au départ.

2. Définition du raisonnement

Raisonner, c'est découvrir par l'examen de ce que l'on sait déjà quelqu'autre chose nouvelle qu'on ne sait pas encore (Peirce). On trouve chez Balacheff (1987) une définition à peu près semblable : "nous réservons le mot de raisonnement pour désigner l'activité intellectuelle, la plupart du temps non explicite, de manipulation d'informations pour, à partir de données, produire de nouvelles informations". Pour Aristote, d'après Hamelin (1920, p. 171), le raisonnement est l'opération par laquelle la science se fait en s'appuyant sur des connaissances antérieures.

En fait, je doute que l'on puisse trouver une définition du raisonnement couvrant toutes les acceptions du mot. De ce point de vue, le mot raisonnement partage le sort des mots "problème" ou "modèle". Les définitions données ci-dessus ne sont donc certainement pas assez larges, en même temps, elles le sont déjà trop en ce sens que dans la suite on n'étudiera pas le raisonnement ainsi défini dans toute sa généralité. Ces définitions sont cependant suffisantes pour préciser de quoi l'on parle et limiter déjà le champ d'exploration.

3. Les deux sens du mot raisonnement

Le mot désigne aussi bien le produit final de l'activité que l'activité elle-même : on raisonne pour chercher la solution d'un problème et le produit final de cette activité est un raisonnement exprimé (écrit en général) qui établit la solution. Bien entendu, les deux aspects sont liés, mais ils ne coïncident pas. On pourra préciser raisonnement heuristique pour l'activité si on veut éviter les confusions avec le produit final.

Le raisonnement final, la démonstration, souvent écrit, en tout cas exprimé dans la langue ordinaire, plus ou moins chargée de symbolisme mathématique, est plus accessible que le raisonnement heuristique, en particulier dans le domaine historique où on est réduit en général à l'étude des textes. C'est pourquoi il a été l'objet d'étude favori des philosophes: l'épistémologie porte sur les écrits des mathématiciens, leurs déclarations publiques et exceptionnellement seulement sur leur activité en situation de résolution de problèmes. Cette dernière est surtout connue à travers leur témoignage évidemment subjectif (Poincaré, Hadamard, Polya,cf aussi Changeux et Connes, 1989, en particulier p. 109). Il en résulte une insistance sur l'aspect déductif des mathématiques, sur les problèmes de vérité, de fondements. Une conséquence négative en est la réduction de l'image des mathématiques à l'aspect déductif qu'on retrouvera le cas échéant dans la pensée anti-mathématique contemporaine.

Faut-il ou non séparer le raisonnement heuristique et le raisonnement final? Tel est le choix de Duval (loc. cit. p.209-211) qui s'oppose sur ce point à Piaget : "...l'hypothèse générale d'une continuité entre les différentes démarches dites de "raisonnement" se heurte à de sérieuses difficultés". Il se limite ensuite à l'étude de ce qui est appelé ici raisonnement final qu'il caractérise comme raisonnement intrinsèquement lié à l'utilisation d'un langage.et oppose aux raisonnements "directement liés à des actions d'exploration" comme le raisonnement inductif.

Dans ce texte, on cherchera plutôt les continuités entre raisonnement heuristique et raisonnement final, pour plusieurs raisons :

- les mathématiciens privilégient dans leur activité la résolution de problèmes et ont tendance à péjorer, parfois peut-être avec une certaine coquetterie, l'activité de rédaction d'une démonstration considérée comme une simple tâche finale de vérification de la découverte.

- il est intéressant de voir si subsiste dans le raisonnement final, observable, des traces du raisonnement heuristique, beaucoup plus difficile à observer, que ce soit chez le mathématicien ou chez l'élève.

- en arithmétique, des méthode de résolution de problème comme la "règle de trois" ou le "raisonnement par fausse position" rassemblent en une seule démarche l'heuristique et la justification.du résultat obtenu. De même en algèbre ou en analyse, les démonstrations qui sont fondées essentiellement sur un calcul mêlent intimement heuristique et démonstration. Un calcul symbolique est un raisonnement automatisé grâce à l'invention d'un symbolisme adéquat.

- il existe des productions intermédiaires entre raisonnement heuristique et démonstration rédigée. Par exemple, le discours de l'enseignant qui expose au tableau la démarche de résolution d'un problème tout en construisant les éléments d'une démonstration.constitue un raisonnement qui mêle heuristique et démonstration.

Ajoutons, pour terminer ce paragraphe sur le sens des mots, que je souhaiterais faire du mot raisonnement un usage qui s'éloigne aussi peu que possible de l'utilisation qu'en font les enseignants de mathématiques quand ils parlent de "raisonnement", d'"erreur de raisonnement", ou des élèves et des étudiants "qui ne savent pas raisonner".

4. Heuristique et raisonnement heuristique.

Les psychologues, plus que les philosophes, et avec le secours de l'expérimentation, se sont intéressés aux processus heuristiques. Toute investigation sur ce sujet montre que l'aspect déductif est loin d'être le seul dans cette étape, la plupart des mathématiciens mentionnent d'ailleurs l'importance de l'intuition et relativisent celle de la déduction, de la démonstration.

Platonisme et Intuitionnisme expriment bien les "impressions" du mathématicien quand il "fait" des mathématiques, cherche à résoudre un problème : le platonisme exprime le sentiment de se heurter à quelque chose qui résiste, à une réalité indépendante du sujet qui la découvre, l'intuitionnisme exprime l'importance dans la découverte de la connaissance intime de cette réalité. Ceci disparaît du raisonnement final ou en tout cas est en général absent de sa rédaction (c'est un des aspects de la dépersonnalisation de la découverte lors de sa communication) Voici toutefois ce qu'écrit Connes à propos de la lecture par un mathématicien d'une démonstration :

"les mathématiciens savent bien que comprendre un théorème ne signifie pas comprendre pas à pas une démonstration dont la lecture peut durer plusieurs heures. C'est au contraire voir la totalité de cette démonstration dans un temps extrêmement bref. Le cerveau doit être capable de "vérifier", j'ignore comment, cette démonstration en l'espace d'une ou deux secondes. On est certain d'avoir compris le théorème si on a ce sentiment là".(Changeux-Connes, 1989, p. 117)

Il est intéressant de comparer ce texte avec ce que dit Duval (1995, p.273) de la reconnaissance de la validité d'un raisonnement déductif : le raisonnement déductif consistant en une chaîne dont les maillons sont les "pas de raisonnement", la validité s'éprouve par la vérification de celle de chaque pas de déduction. On reconnaît ici la "lecture de plusieurs heures" de Connes. A mon avis, le texte de Connes n'implique pas l'inutilité de cette activité de vérification, il ajoute que la compréhension requiert autre chose de plus global, à rattacher à tout ce que les mathématiciens mettent sous le mot intuition et que l'on pourrait me semble-t-il, dans les catégories définies par Duval, rattacher à l'argumentation pertinente satisfaisant "...aux exigences communes à tout discours en langue naturelle. La principale est celle de continuité thématique, condition nécessaire pour qu'un ensemble, ou qu'une suite, de propositions apparaisse comme formant un tout cohérent : description, récit, explication" (Duval, loc. cit. p. 275). Enfin pour être complet, rappelons un point peu abordé dans Duval: dans la pratique, aucune démonstration mathématique n'est complètement explicitée, et ceci pour une foule de raisons, la vérification pas à pas ne peut donc conduire à une certitude absolue sur la validité d'une démonstration. Ce point a été largement souligné et illustré par Lakatos (1976).

Revenons à l'activité du mathématicien ; qu'est-ce qui fait qu'il trouve, après avoir cherché en vain pendant des heures ou des années, ceci reste bien mystérieux. Bien naïf me semble donc le questionnement de Bazin (1994, conclusion): "que se passe-t-il exactement dans l'esprit d'un mathématicien au moment précis où il a la bonne intuition pour créer l'objet non spécifié dans l'énoncé, qui lui permettra de trouver la solution ?" C'est peut-être à cause de cette difficulté que la recherche psychologique dérive facilement de l'étude de la résolution de problème à celle des stratégies d'exécution d'une tâche et que certains courants pédagogiques semblent plus à l'aise avec les tâches qu'avec les problèmes.

En ce qui concerne l'analyse didactique, notons que l'heuristique comporte des phases d'expérimentation, de recherche d'informations supplémentaires qui ne relèvent pas d'une activité de raisonnement telle qu'elle a été définie plus haut. Ceci se voit facilement sur les exemples ci-dessous.

5. Deux exemples de raisonnement. Situation de raisonnement.

5.1 Le meilleur exemple, bien que je compte m'intéresser exclusivement aux mathématiques est fourni par l'activité du détective de romans policiers de type anglais (detective novel) et même plus précisément de type Agatha Christie: les yeux d'Hercule Poirot sont particulièrement verts au moment de l'illumination décisive qu'il traduit ensuite et justifie par une chaîne déductive. Il s'agit bien du moment du raisonnement qui vient après le travail de recherche d'informations, d'indices, qui ne relève pas du raisonnement mais lui fournit son matériau initial. De même dans les cinq dernières minutes, l'inspecteur Bourrel s'écrie "mais bon sang, c'est bien sûr", puis explique au téléspectateur qu'il a exactement les mêmes informations que lui, et qu'il peut lui aussi trouver le coupable. Certains auteurs de romans policiers aiment à faire des propositions analogues au lecteur. Il s'agit alors typiquement de mettre en route un raisonnement: trouver à partir des informations que l'on a, celle que l'on n'a pas -qui est l'assassin?- sans procéder à aucune recherche d'indice nouveau.

Cet exemple met bien en évidence que le raisonnement s'oppose au recours à l'expérience, à l'action de recherche de nouvelles informations, qui font partie de l'heuristique, laquelle déborde donc le raisonnement tel que nous l'avons défini.

5.2 Le problème des partis de Pascal : ici il nous suffit de citer Pascal lui-même pour confirmer la différence entre raisonnement et action : les partis d'un jeu sont "ce qu'il faut d'autant plus chercher par le raisonnement qu'il est moins possible d'être renseigné par l'expérience" (cf Chevalley C., 1995, p.82). Voici en écho ce que dit un élève de quatrième pour persuader un de ses camarades de renoncer à essayer de lire un résultat sur le dessin (il s'agit du problème consistant à trouver combien la diagonale d'un rectangle quadrillé traverse de carreaux): "si c'est imprécis comme cela, il faut raisonner".

Ces exemples mettent en évidence le fait que le raisonnement, en tant qu'activité, se définit spontanément en termes de situation: la situation de raisonnement est celle dans laquelle on est privé pour une raison quelconque (impossibilité totale ou partielle, problème de temps) de la possibilité d'expérimenter, de recueillir de nouvelles informations. C'est ce que souligne la remarque de Pascal.

Si l'on examine les réalisations effectives de situations a-didactiques construites sur la base de la théorie de Brousseau (1986), on voit que toutes ces situations, qu'elles soient d'action, de formulation ou de validation, mais spécialement l'action et la validation, comportent du raisonnement.

En ce qui concerne l'action, il s'agit de phases de raisonnement dans la situation. Leur résultat peut être de montrer l'insuffisance des informations que l'on possède, et donc la nécessité de cesser de raisonner pour passer à la recherche de ces nouvelles informations. Il y a des phases analogues dans l'activité de recherche d'indices du détective et aussi dans celle d'un joueur d'échec ou de cartes; l'alternative: raisonner, ou agir pour avoir des informations supplémentaires est particulièrement claire dans la phase des annonces au jeu de bridge. En revanche, contrairement à ce qu'on pourrait attendre, les phases de validation dans une situation d'action ne font pas nécessairement appel au raisonnement : par exemple, quand la situation d'action amène à une construction de modèle, la validation se fait expérimentalement, par confrontation du modèle à la réalité (cette confrontation possible constituant dans ce cas le "milieu pour la validation").il ne s'agit pas de raisonnement. Plus généralement, dans la typologie des preuves de N. Balacheff (1987), les preuves intellectuelles relèvent du raisonnement, mais non pas les preuves empiriques.

La situation de validation, elle, comporte bien ce refus du recours à l'expérience qui caractérise le raisonnement, mais elle comporte de plus une référence à la théorie des jeux (Brousseau, loc. cit.) qui amène a priori à considérer que les situations de validation sont des situations de raisonnement particulières.qui comportent une organisation plus précise.

Notons que l'ensemble des travaux expérimentaux de didactique concernant les situations de raisonnement mettent bien en évidence que placés dans une telle situation, les élèves ne s'orientent pas spontanément vers des raisonnements de type démonstratif, mais plutôt vers des argumentations (cf Balacheff, 1988, conclusion).

6. Logique, raisonnement mathématique, axiomatique.

"Grâce à elle (la logique symbolique) [...] vous pourrez déceler tous les sophismes, réduire en poudre tous ces raisonnements spécieux et sans valeur que l'on rencontre si fréquemment dans les livres, dans les journaux et même dans les sermons..."(Carroll L. 1896, p. 51)

Si l'on admet ainsi que la logique est la théorie des inférences valides, c'est-à-dire qu'elle donne à la fois des conditions de validité a priori et des moyens de contrôle a posteriori de la validité d'un raisonnement, alors elle est évidemment liée avec le raisonnement final. Ses liens avec l'heuristique.sont plus complexes car cette dernière comporte d'autres procédures, comme ce que l'on appelle le raisonnement inductif qui peut se ramener en mathématiques à une méthode (parmi d'autres) de production de conjectures, fondée sur l'étude de quelques exemples. Ce raisonnement inductif n'est pas un raisonnement au sens de la définition que nous avons donnée, puisqu'une conjecture peut se révéler fausse.

Dans les faits, lorsqu'un raisonnement est donné en langue naturelle, il n'est pas toujours facile de contrôler directement sa conformité aux règles de la logique : comme le remarque Duval (p. 305), il y a plusieurs expressions possibles en langue naturelle d'un même raisonnement. Pour l'analyser, il faut donc, soit le ramener à une forme canonique en langue naturelle, comme le font Aristote ou Lewis Caroll, soit employer un symbolisme plus ou moins éloigné de la langue naturelle (par exemple, le graphe propositionnel de Duval, p.286). Ceci souligne le caractère en général a posteriori du contrôle logique du raisonnement.

Dans la suite, j'admets que tout raisonnement mathématique (au sens du produit fini) est analysable logiquement sans ambigüité, ce qui serait une proposition bien hasardeuse pour des raisonnements portant sur des sujets de la vie courante, et qui se révèle parfois faux pour certains raisonnements mathématiques produits par les élèves. Dans la pratique, très souvent la logique naturelle suffit à ce travail d'analyse, sans besoin de théorie logique formalisée, comme le dit Pascal (ed Clair, 1985, de l'esprit géométrique, section I) :..."les règles des syllogismes sont tellement naturelles qu'on ne peut les ignorer". On trouve par exemple ce type d'analyse chez Lakatos (1976, "preuve analytique"). Cependant, une analyse précise demande parfois un recours à une formalisation logique qui doit utiliser le calcul des propositions mais aussi le calcul des prédicats au moins du premier ordre: ce dernier se révèle indispensable pour l'analyse de certaines tâches classiques dans les recherches de psychologie cognitive, comme la tâche de Wason, (cf V. Durand-Guerrier 1996), mais aussi pour l'analyse des difficultés rencontrées par les étudiants. Voici deux exemples où la simple expérience d'enseignement suffit pour comprendre la nécessité de travailler sur les variables et pas seulement sur les propositions :

- l'étude de la notion de limite avec la définition en ( ). Dans ce cas, une partie des difficultés des étudiants ne tient pas seulement au statut des propositions mais bien à celui des variables: peut-on disposer de , ou faut-il considérer qu'il est imposé?

- voici un exemple parmi d'autres en algèbre linéaire: lorsqu'on cherche les endomorphismes h d'un K-espace vectoriel qui commutent avec tous les autres, on obtient rapidement, pour tout vecteur x, par commutation avec un projecteur sur le sous-espace Kx={ x, K} engendré par x, que h(x) appartient à ce sous-espace. Ainsi, h(x) = x. Les étudiants en concluent alors que h est une homothétie, ce qui est exact mais non fondé à ce stade, car fait alors remarquer l'enseignant, il faut encore démontrer que ne dépend pas de x. L'erreur qui mène à conclusion trop hâtive des étudiants est mise en évidence si l'on se donne la peine d'écrire les quantificateurs qui sont sous-entendus dans la présentation ci-dessus de la démonstration. Bien sûr l'explication de cette erreur doit aussi prendre en compte le rôle du symbolisme, l'écriture "montrant" apparemment que est une constante.

Dans la géométrie traditionnelle du collège et du lycée, diverses conventions de langage, essentiellement la quantification implicite des énoncés, l'utilisation d'images mécaniques (points mobiles et fixes), permettent d'éviter l'usage des quantificateurs même traduits en langue naturelle, ce qui explique sans doute que très souvent l'analyse des démonstrations se fasse dans le seul cadre du calcul des énoncés. Ainsi Duval () insiste sur le problème du statut des énoncés, pas sur celui des variables, mais la plupart de ses exemples sont empruntés à la géométrie.

Lorsqu'on analyse ainsi une démonstration, on met éventuellement en évidence les énoncés qui ont été utilisés implicitement : cette méthode, appliquée aux démonstrations d'Euclide, produit un grand nombre de ces énoncés implicites, propres à chaque démonstration. Si on dispose d'une axiomatique du domaine étudié, l'analyse peut être poussée plus loin en ce sens qu'on peut classer les énoncés implicites, dont la prolifération deviendrait sinon incontrôlable. Par exemple, en ce qui concerne les livres géométriques d'Euclide, l'axiomatique de Hilbert de la géométrie, permet d'affirmer que Euclide admet par lecture sur le dessin toutes les propriétés dont la démonstration nécessiterait l'utilisation du groupe des "axiomes d'ordre" et une partie de celles qui relèvent du groupe des axiomes d'incidence. Ainsi cette axiomatique apparaît comme un outil mathématique d'analyse des démonstrations d'Euclide.

Plus généralement, la logique analyse l'enchaînement des inférences à partir d'énoncés admis explicitement ou implicitement comme vrais. Elle permet tout aussi bien d'analyser un raisonnement en physique par exemple: quelles seront alors les différences entre mathématiques et physique? Elles ne résident pas bien évidemment dans l'emploi d'une logique différente dans ces deux disciplines (je rejoins ici Granger, 1994, sur le fait que la "logique quantique" fait partie des mathématiques ou de la physique, mais certainement pas de la logique et que les physiciens ou mathématiciens qui s'occupent de mécanique quantique n'emploient pas une logique différente de celle du reste de l'humanité), mais bien dans le mode de production des "vérités élémentaires" sur lesquelles va opérer ensuite la logique: c'est ce mode de production qui caractérise chaque discipline. La lecture du livre de L. Viennot (1996) sur le raisonnement en physique confirme bien cette opinion : en fait, l'auteur examine dans cet ouvrage les "vérités élémentaires", désignées comme des "conceptions", sur lesquelles s'appuie le raisonnement des sujets observés ou questionnés. De ce fait, le propos est essentiellement physique: la logique naturelle est utilisée implicitement par l'auteur pour dégager, autant que faire se peut, les vérités de base utilisées par les élèves, les autres aspects du raisonnement, par exemple l'intervention des mathématiques, sont très rapidement mentionnés. Contrairement à ce que pourrait laisser penser une première lecture rapide, le mot raisonnement ne me semble pas employé dans ce livre dans une acception différente de celle que j'ai choisie, simplement, l'accent est mis sur l'aspect production des énoncés admis comme vrais et enchaînés ensuite dans les raisonnements: ces "conceptions" prolifèrent, aussi l'auteur examine-t-il dans sa conclusion (loc. cit. p. 227) comment trouver un principe de classement, qui n'est pas du type de l'axiomatique des mathématiciens mais du dégagement des règles d'une sorte de physique spontanée (on peut remarquer que celle-ci, contrairement à l'axiomatique, ne relève pas du "savoir savant").

7. Le raisonnement mathématique et la dualité opérations-objets : les règles de raisonnement.

Il est bien connu (cf Granger, loc. cit., Lakatos loc. cit.) que les objets des mathématiques sont définis dans une sorte de dualité avec les opérations que l'on fait sur eux: ces opérations que l'on s'autorise sont des "règles de raisonnement" qui disent ce que l'on peut faire avec les objets, et du même coup précisent leur définition. Déjà au début du dix-neuvième siècle, Gergonne avait remarqué le lien entre axiomes (opérations) et termes non définis (objets) : "les axiomes nous disent ce que nous pouvons affirmer concernant les termes non définis; ils donnent ce que nous pourrions appeler une définition implicite" (Kline M, 1980 p. 349). Toujours d'après Kline (loc cit, p. 349), ce n'est que vers cette époque que les mathématiciens, à la suite de Pasch, redécouvrent la nécessité de termes non définis soulignée par Pascal à la suite d'Aristote.

Lorsqu'une théorie mathématique est complètement axiomatisée, la situation est apparemment claire: les objets de la théorie, désignés par les mots premiers ou définis à partir de ces mots (ex : "droites parallèles" est défini à partir des mots premiers "droite" et "incident" dans l'axiomatique de la géométrie de Hilbert) sont soumis aux règles de raisonnement constituées par les axiomes et les théorèmes démontrés à partir des axiomes, et il n'y a pas d'autre règle de raisonnement, sauf bien entendu les règles de logique qui servent à la déduction. La dualité "opérations-objets" est alors parfaite (en apparence seulement, puisqu'en réalité, elle ne l'est pas, d'après les théorèmes du style théorème de Gödel, toutefois ceci n'interviendra pas au niveau où nous nous plaçons). La notion de règle de raisonnement est alors superflue. C'est, me semble-t-il, les raisonnements finaux respectant de cadre qui sont étudiés dans le travail de Duval.

Cependant, cette situation limite est à mon avis tout à la fois un outil d'étude indispensable du raisonnement et un point de vue insuffisant car :

- aucun raisonnement "vrai", aucune démonstration n'est jamais conforme à ces règles pour des raisons variées, ne serait-ce que la longueur de l'écriture que nécessiterait un respect absolu des règles (pour des exemples, cf Arsac 1997, par exemple 3.5 et la remarque qui suit), ce qui produit dans les démonstrations "vraies" des implicites, des appels à l'évidence recouvrant des "lemmes cachés" (Lakatos loc. cit.). C'est peut-être l'une des raisons pour lesquelles le contrôle de la validité d'un raisonnement ne peut être seulement pas à pas et comporte aussi un contrôle sémantique par la "compréhension", lequel à un niveau élémentaire conduira par exemple en géométrie à déceler la nécessité d'une discussion sur les "cas de figures" absente d'une première rédaction.

- a fortiori ceci est-il vrai des raisonnements des mathématiciens des siècles antérieurs et des raisonnements fournis par les étudiants et les élèves: l'étape finale n'est jamais atteinte dans l'enseignement des mathématiques.

- enfin tout l'aspect découverte disparaît dans cette réduction du raisonnement à son étape finale mise sous forme canonique.

Voici pour l'insuffisance, reste que cette réduction du raisonnement que permet l'axiomatisation "complète" est l'outil d'analyse du raisonnement pour les mathématiciens. C'est elle qui est historiquement à la base de la solution des problèmes soulevés par l'apparition des géométries non euclidiennes et des tentatives de démonstration du postulat des parallèles. On en trouvera aussi des exemples dans Duval (p. 287 et 291)

8. Exemples historiques de règles de raisonnement.

8.1. Infini potentiel et infini actuel.

Plus de vingt siècles se sont écoulés depuis Aristote, pendant lesquels la question "Comment raisonner avec l'infini?" a été posée et travaillée. Cette histoire est bien connue: on peut se référer par exemple a Lévy (1987). Voici comment on peut l'interpréter du point de vue de la dualité opérations-objets et des règles de raisonnement:

Le mot "infini" existe dans la langue et pas seulement la langue mathématique (une véritable étude historique devrait ici chercher d'abord à restituer le sens quelques siècles avant Jésus-Christ du mot grec "apeiron" que nous traduisons par infini!) et charrie avec lui un certain nombre d'intuitions. Sur cet objet a priori mal défini, on cherche quelles opérations on peut faire, opérations inspirées par la "nature" de l'objet.qui doivent être à la fois conformes à la signification du mot et ne pas conduire à contradiction. Par exemple, on peut penser à diviser l'infini, et d'après Aristote, cette opération aboutit à une contradiction, qui sera identifiée par Saint Thomas d'Aquin comme une contradiction avec l'axiome euclidien "le tout est plus grand que la partie". Aristote en conclut à la négation de l'existence ontologique de l'infini, ce que l'on appelle le refus de l'infini "actuel". Mais il énonce les opérations que l'on peut faire sur l'infini "potentiel",(on ne considère jamais effectivement qu'un nombre fini d'objets, mais s'ils sont pris dans un ensemble infini, il en reste toujours d'autres...). Ces règles resteront règles de raisonnement pendant des siècles, puis Cantor en proposera d'autres et Brouwer d'autres encore. En ce qui concerne les mathématiques classiques (non intuitionnistes), l'axiomatisation a été effectuée, la phase "règles de raisonnement sur l'infini" est achevée.

Après Cantor, infini pourrait devenir un mot premier (il ne l'est pas en général, c'est-à-dire qu'il est défini à partir d'autres mots), et l'on pourrait dire alors qu'il est défini par les règles opératoires qui l'ont pour objet. D'autre part, on peut considérer les positions intuitionnistes comme fournissant un autre système de règles opératoires candidates à la définition précise de la notion d'infini. Si l'on accepte ce point de vue, on doit admettre que les mathématiques fournissent deux usages cohérents possibles du mot infini.

Bien entendu, l'infini ne sort pas indemne de cette opération, en ce sens qu'en mathématiques, qu'elles soient classiques ou intuitionnistes, le mot infini ne garde pas tout le halo de significations qui lui est attaché dans la langue courante.

8.2. Axiome du choix.

On trouvera un bon résumé de l'histoire de cet axiome dans Guillemot M. (1989). On y voit comment une règle de raisonnement passe de l'évidence, manifestée par un emploi implicite, au statut explicite qui provoque la mise en débat, et éventuellement la remise en cause du caractère d'évidence, voici ce qu'en écrit Hadamard dans sa préface à Gonseth, 1926:

"l'histoire a commencé à propos des questions nouvelles et assez abstruses de théorie des ensembles, avec le fameux "axiome de choix" de M. Zermelo. Ce n'est pas sans un vif étonnement que plusieurs d'entre nous se sont trouvé, sur des points d'évidence, en somme, des opinions complètement divergentes, les uns "idéalistes" pour lesquels "l'axiome de choix" était aussi clair que l'égalité de deux choses égales à une même troisième ou le principe d'identité, les autres "empiristes", pour lesquels la chose était parfaitement claire et immédiatement jugée... en sens contraire, rien ne leur paraissant imposer à la raison humaine l'axiome en question"

Ainsi, l'évidence était remise en cause par l'explicitation. On sait que dans ce cas, l'histoire se termine par la fixation de l'axiome dans la théorie classique des ensembles.

8.3. Raisonnements sur les infiniment petits.

On trouvera une analyse détaillée de la pensée de Leibnitz à ce sujet dans Granger, 1994, (chapitre 12; Philosophie et mathématique leibniziennes p.199-240). On peut en retenir en particulier la position de Cavalieri qui raisonne essentiellement d'un point de vue objet, en s'appuyant sur la "nature" des indivisibles alors que Leibniz semble déjà bien conscient de la dualité entre opérations et objets :

"Les infinitésimales sont contradictoires, sans doute, si on veut les penser comme des nombres ordinaires, à la fois non nuls et égaux à zéro; mais il faut les considérer comme signes de quantités d'un nouveau genre, définies dans un système qui fournit à la fois les lois de leurs combinaisons mutuelles et de leurs rapports aux quantités ordinaires"

Cet exemple est particulièrement intéressant puisque le raisonnement de type leibnizien continue à vivre en physique sous la forme du calcul sur les dx et dy. En quelque sorte, le "niveau de raisonnement" ainsi défini avec ses règles, est suffisamment productif pour se maintenir vivant, bien qu'il ne puisse que difficilement être axiomatisé (sauf évidemment dans le cadre de l'analyse non standart). Il apparaît par contre profondément intuitif, ce qui fait que la production régulière d'articles de mathématiciens visant à "rendre rigoureux" le raisonnement des physiciens ou à en expliciter les règles (cf par exemple Wallet G., 1992) laisse les physiciens parfaitement indifférents (cf à ce sujet la recherche Artigue et al. sur les différentielles in colloque de Sèvres). Notons aussi que ce genre de raisonnement fournit un exemple supplémentaire dans lequel heuristisque et preuve sont intimement liées.

Un exemple précis de règle de raisonnement dans ce cas là est le suivant: on peut assimiler la courbe et sa tangente quand l'accroissement correspondant de la variable est infiniment petit.

On peut caractériser le niveau de raisonnement que nous considérons ici comme un niveau de dualité imparfaite entre opérations et objets : les opérations sont définies par l'usage, rarement explicitées avec leur domaine de validité (cf toutefois Leibniz, in Granger, loc cit), les objets ne sont pas entièrement définis par les opérations (Leibniz reconnaît d'ailleurs, on l'a vu ci-dessus, le caractère contradictoire du concept d'infiniment petit, mais soutient que l'on peut tout de même développer un calcul à leur sujet), leurs propriétés sont encore souvent fournies par les images intuitives qu'entraîne avec elle la notion d'infiniment petit, elles ne sont pas réductibles à une définition formelle. On peut dire, dans le langage de Chevallard (1985) que ce sont des objets "préconstruits". Peut-être est-ce d'ailleurs là une situation voisine de celle du raisonnement en physique.

8.4. L'histoire d'un règle de raisonnement peut se terminer mal, en ce sens que, après avoir été utilisée, puis explicitée, elle ne résiste pas au débat et disparaît purement et simplement.sans survivre sous forme d'axiome ou de théorème En voici quelques exemples :

- le principe de généralité de l'algèbre

- le principe de continuité de Poncelet.qui remonte en fait à Leibniz. Dans ce deuxième cas, on peut se reporter à Poncelet lui-même, et au débat sur le principe de continuité, cf Bkouche (1991).

- on trouvera également dans Richards (1980) des exemples de débats sur des règles de raisonnement dans en algèbre au dix-neuvième siècle.

On pourrait tirer de ces exemples la conjecture suivante: une règle de raisonnement peut être d'abord implicite mais employée, puis énoncée et considérée explicitement comme évidente, puis mise en question, ce qui aboutit soit à son élimination au profit d'un remaniement profond de la dualité opérations-objets, soit son passage au statut d'axiome ou de théorème. Quelques exemples ne suffisent pas à prouver qu'il s'agit là d'une règle générale d'évolution des règles de raisonnement, ils montrent néanmoins qu'elle s'applique dans un certain nombre de cas. En voici encore un exemple:

8.5. Pendant des siècles, la notion de dimension restera du domaine de l'intuitif, même si cet intuitif est fortement modelé par l'expérience mathématique. Les mathématiciens admettront que pour se donner une courbe, il suffit d'un paramètre alors qu'il en faut deux pour une surface (par exemple, dans l'espace, une courbe aura pour représentation paramétrique x=f(t), y=g(t), z=h(t), une surface x=f(t,u),..). Ceci constitue bien une règle de raisonnement qui a montré son efficacité. Cantor sera le premier à mettre en doute la clarté de cette règle en exhibant une bijection entre le segment [01] et le carré [01]x[01] (cf Cavaillès). Ceci conduira par une évolution du type de celle analysée par Lakatos, à préciser les notions de dimension, de surface. La notion de dimension éclate d'ailleurs à la suite de ce travail (c'est ainsi que la dimension de Hausdorff est conceptuellement distincte de celle de dimension d'une variété).

9. Vrais raisonnements (démonstrations ?) : implicite et évidence.

Limitons nous provisoirement aux démonstrations, c'est-à-dire au raisonnement final, supposé rédigé, que ce soit par un mathématicien ou par un élève. L'analyse de ces démonstrations fait apparaître des lacunes du point de vue de la structure déductive: il y a des implicites, des "lemmes cachés" (Lakatos loc. cit.). Suivant le cas, on pourra attribuer ces manques à des conventions qui règnent par exemple entre mathématiciens quant au niveau d'explicitation nécessaire à une démonstration à une époque donnée, ou à des erreurs. Voici par exemple ce qu'écrit un mathématicien contemporain (Krantz, 1994) dans le cadre d'un débat sur la nature et la permanence de la démonstration en mathématiques:

"Wile's proof of Fermat's last theorem is 200 pages; it would be 1000 pages if all the details were provided. W. Y. Hsiang's resolution of Kepler's sphere-packing problem is still, after three or more years, in doubt (In fact, some experts have told me recently that they believe Hsiang's proof to be incorrect-but at least these experts understood the material that Hsiang offers as a proof!)".

Dans les deux cas, le niveau d'explicitation des démonstrations est effectivement calculé pour un certain public d'experts. Dans le premier cas, on sait que la démonstration a d'abord été reconnue comme fausse, puis rectifiée et reconnue cette fois-ci comme exacte, alors que dans le deuxième cas, à la date de l'article, le débat était encore ouvert. Autrement dit, il existe des règles théoriques pour la démonstration, mais la vérification de la conformité à ces règles d'une démonstration donnée relève toujours d'un débat entre mathématiciens . Ceci signifie que dans l'enseignement, les questions analogues soulèveront des problèmes de contrat didactique.

Le débat sur les propositions de démonstrations est l'un des éléments du progrès des mathématiques, y compris lorsqu'elles se révèlent fausses. Ce point qui a été étudié par Lakatos est bien connu (cf par exemple pour les séries de Fourier, la chronologie des erreurs dans Whittaker et Watson, 1902, p. 160, et pour des remarques plus générales sur ce sujet, Bourbaki, 1954, introduction). Les exemples ci-dessus montrent qu'il ne s'agit pas seulement d'un problème du passé.

Ainsi, les démonstrations "effectives" ne satisfont pas aux canons de la théorie de la démonstration de Hilbert, ni même à ceux de Pascal dans l'esprit géométrique, elles comportent des implicites, des appels à l'évidence, qui sont en fait des recours à des "lemmes cachés" (Lakatos, loc. cit.) où se dissimulent les erreurs possibles, c'est-à-dire les remises en cause ultérieures. D'ailleurs Pascal lui-même ne se conforme pas aux canons de la démonstration quand il travaille sur les indivisibles (à ce sujet, cf Merker C. 1991), nous y reviendrons.

Dans tous les cas d'absence de référence à un résultat ou à un axiome logiquement nécessaire, nous considérerons que le rédacteur a fait appel à une évidence, ce qui nous impose de préciser ce terme; nous parlerons d'évidence dans deux cas:

- évidence explicite: en cas de déclaration par l'auteur de l'évidence de telle ou telle propriété.

- évidence implicite: en cas d'emploi implicite par l'auteur de l'évidence de telle ou telle propriété, cette évidence est alors repérée par un observateur, sur la base d'une analyse logique de la démonstration.

Voici un exemple de règle de raisonnement emprunté à la mécanique, c'est-à-dire à un domaine frontière entre la physique et les mathématiques qui montre comment peuvent se mêler évidence implicite et explicite et donc la nécessité de considérer les deux: il s'agit de tous les cas où l'on réalise un calcul approximatif.

- soit par une approximation dans le modèle mathématique (c'est ce qui se passe quand on linéarise l'équation du pendule).

- soit par une approximation justifiée par des considérations physiques permettant d'aboutir à un modèle mathématique plus simple (négliger les frottements ou la résistance de l'air par exemple).

En général les approximations faites sont énoncées explicitement, non ou peu justifiées, donc considérées comme évidentes. En revanche, le fait que le calcul ainsi fait aboutisse à une solution qui est également une approximation correcte de la solution exacte est souvent sous-entendu. La régle de raisonnement sous-jacente exprime une certaine continuité de la solution par rapport aux conditions initiales. Cette évidence est fausse, ceci est maintenant bien connu et thématisé (phénomènes chaotiques).

Remarquons d'une part que les définitions précédentes font de l'évidence une observable et d'autre part que l'évidence est toujours subjective, relative à un individu, il n'y a pas d'évidence en soi. Cependant, une déclaration explicite d'évidence est toujours appel à faire partager cette évidence par d'autres: les implicites admis à un moment donné par la communauté des mathématiciens reposent sur des évidences partagées.

L'analyse des évidences implicites est bien connue en didactique: elles se retrouvent sous les appellations de "théorèmes en actes" (mais on pourrait parler aussi d'axiomes en actes), "conceptions", "connaissances locales". C'est ce que je regroupe, du point de vue qui m'intéresse, sous le nom de règles de raisonnement. L'ensemble des règles de raisonnement utilisées implicitement ou explicitement par un sujet dans un domaine des mathématiques caractérise son "rapport" à ce domaine de savoir.

10. Origine des évidences et des règles de raisonnement.Lien entre raisonnement final et heuristique.

Du point de vue de la théorie axiomatisée, les objets du raisonnement, associés aux mots premiers ou définis à partir d'eux, sont définis par leur soumission aux règles constituées par les axiomes et les théorèmes. Il en va bien autrement du point de vue du fonctionnement véritable du mathématicien et de l'élève où ce que l'on appelle faute de mieux l'intuition joue un grand rôle. D'ailleurs les axiomes eux-mêmes sont une formalisation de l'intuition (cf Hilbert pour la géométrie, Gödel pour les ensembles).

Remarquons que "intuition" est un mot spontanément employé par les mathématiciens dans la description de leur activité, par exemple pour justifier une déclaration d'évidence. Ce mot désigne donc un aspect de cette activité, il ne constitue pas une explication.

Dans les faits, les axiomes sont considérés comme évidents (historiquement, et en tout cas, scolairement) ainsi qu'un certain nombre de règles de raisonnement employées implicitement ou explicitement. Le problème se pose donc de l'origine des évidences.

10.1. Origine des évidences.

10.1.1. La nature des objets mathématiques.

Le mot nature désigne une notion volontairement grossière qui regroupe toutes les connaissances disponibles chez le sujet à propos d'un objet mathématique donné et qui pourront être considérées comme des évidences lesquelles se traduiront par des "théorèmes en acte", "axiomes en acte", "définitions en acte". Ces connaissances portent sur l'objet lui-même, on peut se référer à ce sujet à ce qu'en dit Pascal dans l'esprit géométrique. Du point de vue de la dualité opérations-objets, ceci signifie que l'objet étant considéré comme connu jouit de "propriétés" qui indiquent en particulier des opérations possibles sur lui: les opérations sont déduites de la connaissance des objets alors qu'au terme de l'axiomatisation ce sont les objets qui sont définis par les opérations.

Si par exemple on part de la définition naïve d'un ensemble comme collection d'objets, on pourra naturellement réunir des parties d'un ensemble ou prendre leur intersection, ou leur produit etc...

Dans le cas de la géométrie, les implicites dans les raisonnements d'Euclide par rapport aux exigences d'une axiomatique plus détaillée comme celle de Hilbert s'expliquent dit-on par l'appel au dessin. Effectivement, le dessin est dans ce cas une source importante d'évidences qui concerne tous les axiomes d'ordre et les propriétés associées, mais aussi les axiomes de continuité, comme on le voit par exemple dans la célèbre première démonstration d'Euclide, et dans bien d'autres. Mais on peut aussi mettre en évidence chez Euclide d'autres implicites par rapport à l'axiomatique de Hilbert, implicites que l'on retrouve dans les mathématiques de l'enseignement obligatoire, concernant les axiomes d'incidence : par exemple le fait qu'étant donné une droite il existe des points en dehors de cette droite, ou bien l'utilisation implicite de l'axiome : "par deux points distincts il passe une droite et une seule" sans vérification du fait que les points A et B sont distincts. Au collège, cette règle de raisonnement se manifeste par le fait que dès qu'on a deux points A et B, on parle de "la droite (AB)" sans jamais vérifier que les points A et B sont distincts (Arsac, 1997).

Le récit de l'histoire du théorème d'Euler sur les polyèdres par Lakatos montre bien cette même démarche à l'œuvre: on part d'une idée de polyèdre qui n'a pas besoin d'être totalement définie et qui se voit pourvue peu à peu de qualités supplémentaires précisant les opérations autorisées ou interdites, et qui cernent progressivement sa définition.

Cette démarche est bien résumée par la manière dont Pascal décrit les règles pour énoncer les axiomes: il y a un appel à la nature des objets qui semble sous-entendre que les axiomes n'ont pas besoin d'être exhaustifs. Cette nature fournit à la demande des propriétés évidentes supplémentaires. En géométrie, cette méthode réussit assez bien puisque seul l'axiome des parallèles ("postulat d'Euclide") donne lieu à débat. Ce n'est pas le cas lorsqu'il s'agit d'infiniment petits ou de probabilités: c'est bien à partir de leur nature qu'on les dote de propriétés, mais dans les deux cas, ces propriétés apparaissent parfois comme contradictoires, on retrouve alors un processus de retour sur la définition. Cette élimination des contradictions entre objets et opérations peut être longue et difficile: l'exemple du logarithme des nombres négatifs le montre bien (Kline, 1980).

10.1.2. Le symbolisme.

On sait que Leibniz était fier d'avoir inventé un symbolisme pour le calcul infinitésimal qui rendait évidente la formule du changement de variable dans une intégrale. En fait, ce symbolisme des dx et des dy rend évidents également des théorèmes comme le théorème d'inversion locale d'une fonction ou de dérivation d'une fonction implicite, l'existence d'une fonction implicite étant elle-même rendue évidente par la notation fonctionnelle f(x,y). Cette facilité a pu être vérifiée expérimentalement (cf Artigue M. et al, 1988), elle peut être considérée comme un obstacle ou comme un avantage de la méthode.

L'attention portée par Leibniz au symbolisme; liée à sa recherche d'un symbolisme universel pour la logique (characteristica universalis) est bien connue, il est d'ailleurs également l'inventeur de la notation en double indice pour les systèmes d'équations linéaires (Dorier, p. 52-54), malheureusement connue seulement par un échange épistolaire, comme souvent chez cet auteur. Le passage suivant montre bien la conscience qu'a Leibniz du rôle du symbolisme:

Une partie du secret de l'analyse (au sens de Platon et de Viète ou Descartes) consiste dans la caractéristique, c'est-à-dire dans l'art de bien employer les notes (notations) dont on se sert, et vous voyez, Monsieur, par ce petit échantillon, que Viète et des Cartes n'en ont pas encore connu tous les mystères. (cité d'après Dorier, loc. cit.)

Autrement dit, le symbolisme choisi joue aussi un rôle dans la suggestion des évidences. Par exemple, dans le domaine des nombres, le fait de disposer d'un système de numération de position permet plus facilement de penser l'existence de nombre aussi grands qu'on veut, donc a partie liée avec l'infini.

Voici un autre exemple, emprunté à l'enseignement actuel de l'analyse: il s'agit de la démonstration de la partie réciproque du théorème qui affirme que pour qu'une fonction d'un espace métrique E dans un espace métrique F soit continue en un point a de E, il faut et il suffit que pour toute suite un tendant vers a, f(un) tende vers f(a). Le raisonnement s'expose ainsi à des étudiants niveau DEUG (en supposant pour simplifier que E=F=R):

supposons que l'hypothèse soit réalisée et que f ne soit pas continue en a. Il existe alors e>0 tel que pour tout a>0, il existe x vérifiant |x-a|<a et |f(x)-f(a)|>e. Choisissons a=1/n, alors pour tout n, il existe x tel que |x-a|<1/n et |f(x)-f(a)|>e.

Et voici la phrase clé: "cet x dépend de n, notons le xn."

Alors la suite (xn) tend vers a tandis que f(xn) ne tend pas vers f(a), ce qui est contradictoire avec l'hypothèse, d'où le résultat.

En analysant de près la phrase clé, le vecteur vérifiera qu'elle emploie en fait l'axiome du choix dénombrable. Mais ici cet axiome est rendu à la fois implicite et évident par la notation xn qui sous entend que l'on peut définir effectivement "globalement" une suite.

Le rôle du symbolisme a été souligné en didactique à partir de présupposés bien différents, par Chevallard, en particulier dans le domaine algébrique, et Duval (1995) à travers la notion plus précise de "registre de représentation sémiotique".

Leibniz n'a pas été le seul à être conscient de l'importance du symbolisme, voici ce qu'en dit Hilbert:

Comme toute autre science, la mathématique ne peut pas être construite sur la seule logique. Une donnée est indispensable, composée d'objets concrets, résultant d'une epérience antérieure à la pensée.[...] En mathématiques, les objets que nous examinons sont de signes qui pour nous sont clairs et reconnaissables. (Hilbert, 1989, appendice 9 de la traduction française, p. 260).

Ainsi pour Hilbert, le mathématicien travaille sur des signes tracés sur une feuille de papier. Même si cette position extrême semble peu vraisemblable, elle existe. Une position plus raisonnable et plus modeste est peut-être de reconnaître que le rôle du symbolisme, toujours important, varie suivant les contenus mathématiques en jeu. Si, après de longs débats historiques (Richards, 1980), la possibilité que l'algèbre soit un jeu sur des symboles sans référent a pu être admise, cela semble plus douteux pour d'autres domaines des mathématiques.

Notons enfin que lorsqu'un symbolisme apparaît, son importance, son rôle dans le raisonnement sont bien perçus (par exemple, le calcul algébrique est bien perçu à son origine comme forme de raisonnement). Mais une fois le symbolisme installé, les commentaires à son sujet disparaissent de la sphère savante, et seul le savoir enseigné se préoccupe encore des difficultés de son apprentissage. Le fait qu'un calcul soit un raisonnement est ainsi facilement oublié.

10.1.3. Les images mentales.

Ce terme est ici employé sans référence théorique précise, pour désigner tout ce qui chez les mathématiciens accompagne et aide le raisonnement en particulier comme source d'évidences. En voici quelques exemples:

- le plus massif, car attesté depuis longtemps est l'utilisation d'images liées à la notion de mouvement. Le mouvement est déjà présent dans la démonstration par Euclide du premier cas d'égalité des triangles, il est invoqué par Tusi pour prouver que deux coniques dont l'une a un point intérieur et un point extérieur à l'autre, se rencontrent, c'est-à-dire pour une forme du théorème de la valeur intermédiaire, il est invoqué par Néper, ce qui lui permet de pallier de notre point de vue, l'absence des notions de fonction, de dérivée dans l'invention des logarithmes néperiens etc...Il joue un rôle fondamental dans l'analyse infinétésimale de Newton, etc...

Il est à noter que ce mouvement invoqué par les mathématiciens est tout à fait particulier:

- il est purement imaginé, nul besoin de recourir à des expériences effectives pour en vérifier les effets et les propriétés: l'expérience quotidienne de chacun est manifestement suffisante pour cela.

- c'est un mouvement qui se déroule toujours dans le même sens.

Il vaut mieux à son propos éviter de parler de mécanique car ce dernier mot fait allusion à une discipline précise, complètement inutile pour les usages mathématiques du mouvement que nous avons cités, même lorsqu'il est question de "vitesse".

Quant au rôle des images du mouvement dans l'apprentissage, il a déjà été étudié en didactique avec ses avantages et ses inconvénients, que ce soit en géométrie (en particulier dans la notion de transformation) ou en analyse (notion de limite). En géométrie, une "erreur de raisonnement" (au sens de notre discours d'enseignant) courante chez les élèves consiste par exemple dans un problème de "lieu géométrique" (c'est-à-dire de détermination d'un ensemble de points vérifiant certaines propriétés) à proposer comme solution un cercle dont le centre ou le rayon sont "variables", par opposition aux éléments "fixes" de la figure. Dans ce cas, le discours de l'enseignant, comme celui de l'élève, fait appel à une intuition du mouvement qui a été heureusement mise en évidence avec le logiciel Cabri-géomètre.

- indissolublement lié au mouvement est aussi le rôle du temps dans le raisonnement. Il peut en géométrie être lié au tracé progressif de la figure associée.

- voici quelques autres exemples:

- le principe des tiroirs de Dirichlet, règle de raisonnement qui se traduit facilement en théorème sur les applications entre ensembles finis, reste souvent énoncé avec l'image des tiroirs (tout aussi imaginaires que les mouvements...).

- le coloriage en mathématiques discrètes est source d'évidences.

- l'image de la machine est tout à fait indispensable à la compréhension des travaux de Turing et n'a pas disparu des présentations les plus récentes de sa théorie. Ici aussi, la machine totalement imaginaire ne tombe jamais en panne.

- Kelley (1955) trouve plus simple d'epxoser la démonstration du théorème de Shroeder-Bernstein en parlant de parthénogénèse et d'ancêtres...

Un point est commun à toutes ces images: elles renvoient à des certitudes partagées parce que ancrées dans l'expérience commune, c'est pourquoi elles ne renvoient jamais à une expérimentation réelle au sens du physicien: l'expérience est imaginaire, mais son résultat est certain, c'est l'exemple type d'une évidence partagée, jusqu'à ce qu'elle soit remise en question...

Notons pour terminer que la séparation entre nature des objets mathématiques, symbolisme et images mentales est une commodité d'exposition qui n'implique pas des différences ontologiques entre ces trois aspects de l'objet mathématique.

10.2. Intérêt des changements de cadre.

Reprenons la notion de cadre de Régine Douady (1986). A la suite de l'analyse précédente, on peut préciser l'intérêt du changement de cadre: un changement de cadre est intéressant dans la mesure où il change les évidences, en changeant la nature des objets ou du symbolisme.ou en suscitant d'autres images mentales Le raisonnement change, qu'il soit heuristique ou définitif, puisque les informations disponibles au départ ou les traitements disponibles ne sont plus les mêmes. Ceci précise la notion de déséquilibre dont parle Douady (loc. cit.) pour caractériser les changements de cadre intéressants.

Mais cette remarque oblige à aller au delà du changement de cadre: tout traitement qui, dans une situation mathématique, change les évidences a de l'intérêt du point de vue des possibilités de raisonnement qu'il offre. Ainsi s'explique qu'un isomorphisme, sans changement de symbolisme, simple traduction sans "déséquilibre" puisse être fructueux et permettre des découvertes (niveau de l'heuristique) : il en est ainsi par exemple de la transformation de Fourier pour l'étude de la représentation régulière gauche de R.

Considérons en effet l'espace L2(R) des fonctions intégrables de carré sommable sur R. Le problème est de savoir s'il existe des sous-espaces invariants par toute translation: on en connaît quelques exemples par exemple, les fonctions continues à support compact, mais on va en générer à foison par transformation de Fourier: dans cette transformation, L2(R) est transformé isométriquement en lui-même, mais le problème devient celui de trouver des sous-espaces stables par multiplication par les fonctions x eiax. Il est alors évident (pour une certaine pratique mathématique) que tout sous-espace constitué des fonctions de L2(R) ayant leur support dans une partie donnée de R convient. Plus généralement, toute la recherche sur les représentations des groupes fait un large usage d'isométries comme outil de découverte (heuristique) et de preuve. Dans ce cas, les évidences apparaissent par isométrie, il n'y a pas de changement de cadre. Cette idée rejoint celle de Chevallard sur les calculs algébriques: les différentes formes égales d'une même expression algébrique "montrent", "mettent en évidence", des choses différentes quant aux propriétés de cette expression.

10.3. Niveau de raisonnement

La notion de niveau de raisonnement est relative à un certain niveau de l'équilibre entre objets et opérations : bien difficile à définir rigoureusement, elle me semble cependant à mettre sur pied pour opérationnaliser le discours vague sur la co-construction des objets et des opérations. Elle peut peut-être se caractériser par la liste des règles de raisonnement qui seront considérées comme évidentes sur la base de la nature des objets. Il est bien difficile de la mettre en évidence sans disposer d'une axiomatisation comme outil d'analyse, c'est ainsi qu'on analysera le niveau de raisonnement d'Euclide ou de la géométrie du collège comme un niveau auquel par exemple on remplacera les propriétés d'ordre de l'axiomatique de Hilbert par l'appel à la nature des objets.

De ce point de vue, on pourrait étudier l'enseignement de la géométrie au niveau universitaire tel qu'il était pratiqué jusque vers les années 60 avec l'appel à la nature pour la notion de dimension (une surface est décrite par deux paramètres, une courbe par un seul...) et le changement de niveau de raisonnement qui est intervenu avec l'enseignement systématique de la théorie des variétés. Sur cet exemple on voit qu'il y a contradiction entre intuition et rigueur absolue : la recherche suppose la possibilité de l'intuition des objets, la démonstration rigoureuse demande seulement en principe la connaissance des relations.

10.3.2. Hiérarchie locale de la rigueur.

Il est habituel de considérer que les raisonnements géométriques de Hilbert sont plus rigoureux que ceux d'Euclide, que les raisonnements contemporains en analyse sont plus rigoureux que ceux d'Euler, etc...On peut préciser cela en montrant que dans chaque cas, ce qui n'était que règle de raisonnement soit explicite, soit implicite, fondée en tout cas sur la nature des objets ou l'évidence du symbolisme a été remplacé par un axiome ou une proposition explicite, ce qui contribue, comme l'a remarqué Lakatos a la création progressive du concept à travers les progrès des raisonnements que l'on fait dessus. On peut donc hiérarchiser deux démonstrations d'un même théorème ou plus largement, deux styles de rédaction de démonstrations.

Il est bien connu que cet accroissement de la rigueur se paie souvent d'un affaiblissement de la créativité, qu'il y a une certaine antinomie entre rigueur et fécondité. Cependant, on peut se demander s'il existe une hiérarchie absolue de la rigueur, dont le sommet serait par exemple le formalisme de Hilbert ou tout système d'écriture entièrement formalisé qui obligerait à une explicitation complète, dans un symbolisme adéquat, à la fois des énoncés mathématiques et des outils logiques de leur manipulation.

10.3.3. Caractère circulaire de la hiérarchie de la rigueur.

La tentative de Hilbert de créer une théorie de la démonstration, appelée "métamathématique" repose sur l'idée de prendre comme objet de réflexion la suite des signes représentant une démonstration complètement formalisée. Ceci est un candidat pour une mathématique ayant atteint le sommet de la hiérarchie de la rigueur.

Cependant, cette métamathématique doit elle-même comporter des démonstrations dans lesquelles on devra recourir à des notions intuitives comme celle de nombre entier servant effectivement à dénombrer des signes dans une formule, à des raisonnements par récurrence qui témoignent déjà d'un stade avancé de la mathématique, ou à des objets de définition plus floue comme la notion de variable. Autrement dit, plus une rédaction est formalisée, plus elle devra être accompagnée d'un commentaire en langue naturelle, qui ne fait peut-être pas partie des mathématiques, mais qui leur est indispensable. Le terme métamathématique étant déjà utilisé, on peut adopter pour cela le terme d'épimathémathématique introduit par Chevallard (on pourrait parler de proto-mathématique, comme Gilles Gaston Granger, 1994, parle de proto-physique à propos par exemple de la "logique quantique"). Dans cette épimathémathématique interviendront des mots premiers qui seront employés dans leur sens intuitif, ainsi que toute une arithmétique élémentaire utile déjà pour la description du système formel, mais vraiment indispensable si l'on veut démontrer des assertions à propos de ce système. Il y a là une limite à la recherche de la rigueur par la formalisation.

Bien entendu, on retrouvera dans cette épimathématique la dualité entre l'aspect objet et l'aspect opération. Je ne résitste pas ici à l'envie de citer ce que dit Church (1956, §02 p. 9) dans son introduction à la logique mathématique, à propos de la notion de constante:

We adopt the mathematical usage according to which a proper name of a number is called a constant, and in connection with formalized languages we extend this usage by removing the restriction to numbers, so that the term constant becomes synonymous with proper name having a denotation.

Howewer, the term constant will often be applied also in the construction of interpreted calculi -logistic systems in the sense of §07-some of the symbols or expressions being distinguised as constants just in order to treat them differently from others in giving the rules of the calculus. Ordinarily, the symbols or expressions thus distinguished as constants will in fact become proper names (with denotation) in at least one of the possible interpretations of the calculus.

On voit ici le terme de constante, objet d'abord défini en référence à la langue courante (a proper name), passer sans transition au statut de symbole soumis à certaines opérations précises, d'où il pourra revenir à son premier statut moyennant une "interprétation", terme premier qui apparaît ici dans le traité et qui est donc à prendre ici au sens courant.

En conclusion, le niveau de raisonnement ne peut être choisi en fonction de la hiérarchie: l'histoire montre qu'il est choisi en fonction du but que l'on poursuit, du problème que l'on veut résoudre. Formaliser une théorie permet de résoudre certains problèmes, les travaux de Hilbert sur la géométrie et la théorie de la démonstration, ceux de Gödel, de Turing, en portent témoignage, inversement, la persistance de la pratique du "calcul leibnizien" en physique témoigne de l'efficacité d'un niveau de rigueur bien différent pour résoudre des problèmes différents. Un tel but est absent dans l'enseignement général, le but de transmettre un savoir ne pouvant être assimilé à la volonté de résoudre un problème mathématique, c'est pourquoi, transposition et contrat didactique seront les éléments essentiels de fixation du niveau de rigueur, sauf si l'on réussit à transposer réellement une résolution de problème. Des exemples de niveau de rigueur dans l'enseignement ont été donnés dans ce qui précède en géométrie et dans l'enseignement de l'analyse à l'université.

10.4. Traces de l'heuristique dans le raisonnement final.

L'enseignant ou le chercheur aimerait souvent avoir accès au processus de recherche de l'élève ou du mathématicien et même, dans ce dernier cas, au processus de découverte, ce qui est sans doute bien ambitieux. En particulier il voudrait avoir accès à toutes les évidences et règles de raisonnement qui ont été utilisées pendant cette recherche. Cet objectif est évidemment hors de portée, cependant on peut penser que toutes les évidences qui figurent dans le raisonnement final sont intervenues dans la recherche et même que ce sont les plus solides parmi celles qui ont été envisagées. Il y a là un premier indice. De même, le langage peut indiquer les images mentales qui ont été utilisées à travers par exemple la présence du temps. Si l'on fait l'hypothèse, raisonnable mais à vérifier, que les images mentales sont la source de l'intuition et de la découverte, alors il est intéressant d'y avoir accès, avec toutefois la limitation que peut introduite le caractère éventuellement très personnel de ce type d'images. On peut par exemple ne pas être très aidé lorsque Cantor nous donne comme exemple d'ensemble infini l'ensemble de toutes ses pensées, ceci témoigne toutefois d'une phase où la notion d'ensemble est encore entièrement dépendante du savoir commun.

11. Conclusion.

Elle sera d'une grande brièveté et pourrait se limiter à indiquer comme piste de recherche en didactique le travail sur l'évidence et les règles de raisonnements qu'elle produit, en liaison avec une conception élargie de la notion de changement de cadre. Pour être un peu plus précis, il me semble que l'étude des niveaux de raisonnements, des raisons de leur choix, de l'équilibre entre l'attention portée à la définition précise de l'objet et les opérations que l'on peut effectuer dessus indiquent également des directions de recherche.

Références

Arsac G., 1975, Histoire de la découverte des logarithmes, Bulletin de l'association des professeurs de mathématiques de l'enseignement public, N° 299, p. 281-289.

Arsac G., 1997, L'axiomatique de Hilbert et l'enseignement de la géométrie au collège et au lycée, Actes de l'université d'été de didactique des mathématiques de Saint Jean d'Angély Juillet 1996, IREM de Clermont-Ferrand (à paraître).

Artigue M. et al, 1988, Le thème différentielles in: Didactique et acquisition des connaissances scientifiques, actes du colloque de Sèvres, Mai 1987, La Pensée Sauvage, Grenoble.

Balacheff, N.: 1987, Processus de preuves et situations de validation, Educational Studies in Mathematics 18(2), 147-176.

Balacheff, N., 1988: Une étude des processus de preuve en mathématique chez les élèves de collège, thèse, Université Joseph Fourier, Grenoble, 608 pages.

Bazin J. M.1994 : Géométrie : le rôle de la figure mis en évidence par les difficultés de réalisation d'un résolveur en EAO, in : Vingt ans de didactique des mathématiques en France, Artigue et al. ed, La Pensée Sauvage, Grenoble, 415 pages, p.371-378.

Bkouche R., 1991? De la géométrie sans figures, in : La Figure et l'Espace, actes du 8ème colloque inter-IREM Epistémologie et Histoire des Mathématiques, IREM de Lyon, Lyon, 480 pages.

Bourbaki N., 1954, Théorie des ensembles, Actualités scientifiques et industrielles, n° 1212, Hermann Paris, 138 pages.

Brousseau, 1986, Fondements et méthodes de la didactique des mathématiques, Recherches en didactique des mathématiques, vol. 7.2, p. 33-115, La Pensée Sauvage, Grenoble.

Carroll L, 1896, Symbolic logic, trad par J. Gattegno, 1966, Logique sans peine, Hermann, Paris, 290 pages.

Cavailhès J. Philosophie mathématique, Hermann, Paris.

Changeux J. P., Connes A., 1989, Matière à pensée, Odile Jacob, Paris, 267 pages.

Chevallard Y. 1985. La transposition didactique. La Pensée Sauvage, Grenoble.

Chevalley C., 1995, Pascal, contigence et probabilités, PUF, Paris, 128 pages.

Church A., 1956, Introduction to mathematical logic, vol I, Princeton University Press, Princeton, 378 pages.

Dorier, J. L., 1990, Contribution à l'étude de l'enseignement à l'université des premiers concepts d'algèbre linéaire, approches historique et didactique. Thèse, Université Joseph Fourier, Grenoble.

Douady R., 1986, Jeux de cadre et dialectique outil-objet, Recherches en didactique des mathématiques, vol. 7.2, p.5-32 , La Pensée Sauvage, Grenoble.

Durand-Guerrier V., 1996, Logique et Raisonnement mathématique, thèse, Université Claude Bernard, Lyon.

Duval R., 1995, Sémiosis et pensée humaine, Peter Lang, Berne, 395 pages.

Gonseth, 1926, Le fondement des mathématiques, Albert Blanchard, Paris, deuxième édition, 1974.

Granger, G.G., 1994, Formes Opérations, Objets, Vrin, Paris, 402 pages.

Guillemot Michel, 1989, Introduction à l'axiome du choix, in La démonstration mathématique dans l'histoire, p. 367-386, édité par la commission inter-IREM Histoire et Epistémologie des mathématiques, IREM de Lyon, Lyon, 496 pages.

Hamelin O. 1920, Le système d'Aristote, Félix Alcan, Paris, deuxième édition, 1931.

Hilbert D. 1899, Grundlagen der Geometrie, trad française par P. Rossier: Les fondements de la géométrie, 1971, Dunod, Paris.

Kline M, 1980, Mathématiques, la fin de la certitude, traduction française par J-P Chrétien-Goni et C. Lazzeri, 1989, Christian Bourgois, Paris, 664 pages.

Kelley J. L., 1955, General topology, Van Nostrand, Princeton.

Krantz S. G., 1994, The immortality of proof, Notices of the A. M. S., vol 41, number 1, p.10-13.

Lakatos, I. 1976, Proofs and refutations, trad française par N. Balacheff et J.M. Laborde: Preuves et réfutations, 1984, Hermann, Paris.

Lévy T, 1987. Figures de l'infini, les mathématiques au miroir des cultures, Seuil, Paris, 280 pages.

Merker C. 1991, la géométrie calculante de Pascal dans le traité des sinus du quart de cercle et dans le traité des trilignes rectangles, in La figure et l'espace, actes du huitième colloque inter-IREM Epistémologie et Histoire des Mathématiques, IREM de Lyon, 480 pages, p.327-364.

Naud C., 1966, Histoire des logarithmes de Neper à Euler, tome 1: le calcul des logarithmes et le calcul des premières tables. A. Blanchard, Paris.

Pascal, B, De l'esprit géométrique, édité par A. Clair, Flammarion, Paris, 1985, p. 65-96.

Richards, 1980, The art and science of british algebra. A study in the perception of mathematical truth. Historia mathematica, vol 7, n° 3 p. 343-365.

Viennot L., 1996, Raisonner en physique, De Boeck université, coll. Pratiques pédagogiques, Paris Bruxelles, 246 pages.

Wallet G., 1992, Introduction au calcul leibnizien, Bulletin de l'association des professeurs de mathématiques de l'enseignement public, n° 385, p. 431-448.

Whittaker E. T. et Watson G. N., 1902, A course of modern analysis. Fourth edition 1927, reprinted 1973, 608 pages, Cambridge University Press, Londres.