Logique et mathématique - Philosophie

Eric Grillo, Université de Paris III
in Philosophie, Bulletin de Liaison, n° 12 pp. 18-33
L’enseignement de la philosophie dans l’académie de Versailles,
Centre régional de documentation pédagogique, septembre 1996
Logique et mathématique
Il n’est jamais aisé pour le philosophe d’engager un questionnement sur le thème «
logique et mathématique ». Se pose d’abord bien sûr la question des compétences : les
domaines de la logique et des mathématiques constituent aujourd’hui des secteurs
hautement spécialisés, qui mettent en œuvre des procédures d’analyse rigoureusement
formalisées, dont la manipulation et la compréhension requièrent une double compétence, à
la fois technique et conceptuelle, qui n’est en général que le fait des spécialistes.
À cela s’ajoute un second problème, celui de la délimitation. En effet, l’expression «
logique et mathématique » est en fait fort vague, car elle semble postuler tant l’unité de la
logique que sa distinction d’avec les mathématiques, choses qu’on ne peut cependant
affirmer à la légère, ni tenir pour aller de soi.
Un simple coup d’œil jeté sur les travaux qui se publient en logique (mais il en irait de
même pour les mathématiques) montre l’extraordinaire diversité des champs traités : à côté
de la logique dite « standard », foisonnent des logiques plus ou moins « déviantes »,
logiques modales (aléthique, déontique, temporelle, épistémique…), logique floue, logique
des défauts etc.
Qui plus est, non seulement les domaines sont divers, mais les modes de traitement
le sont également : théorie des modèles, théorie de la démonstration, intuitionnisme, autant
de manières d’aborder la logique, mieux, de définir le logique, et de concevoir le calcul, qui
sont toutes acceptables, bien qu’elles ne se recouvrent qu’imparfaitement.
Quant à l’affirmation de la distinction logique/mathématique, elle fait l’économie de ce
qu’a représenté au début de ce siècle le programme logiciste de Whitehed et Russell
notamment, à savoir une tentative de fonder l’édifice entier de la mathématique sur des
prémisses purement logiques, en montrant que les concepts mathématiques pouvaient être
intégralement définissables à partir « d’idées primitives » exclusivement logiques. Bien qu’on
accorde aujourd’hui que ce programme fut un échec, on ne saurait cependant le
méconnaître : c’est dans ce contexte que Russell élabora une solution aux paradoxes de la
théorie des ensembles, et développa le formalisme qui allait s’imposer au XXe siècle comme
« modèle standard ».
Ces quelques remarques suffisent à montrer qu’on ne saurait aborder tout de go le
thème « logique et mathématique », mais qu’il convient de la spécifier quelque peu. À cette
condition seulement le philosophe sera légitimé dans le choix de ce thème, et à l’abri peut-
être du reproche de ne point sortir d’une généralité sans véritable prise sur son objet.
Pour ma part, j’effectuerai cette spécification de la façon suivante : je m’intéresserai à
la logique et aux mathématiques du point de vue d’une réflexion sur la pensée formelle,
considérée non point seulement comme méthode ou instrument, mais en tant que pensée
véritable, c’est-à-dire en tant qu’elle peut être déterminable comme pensée d’objets. Mon

thème principal sera donc celui de la pensée formelle en tant que pensée d’objets, et je
tenterai d’apprécier la signification et les enjeux philosophiques de cette détermination.
Par là, j’ai indiqué sans doute en quoi la pensée logico-mathématique peut intéresser
le philosophe autrement que comme outil éventuel d’analyse, mais je n’ai pas encore
complètement déterminé la légitimité du traitement philosophique du champ logico-
mathématique. Cette question sera donc l’axe principal de ma première partie, dans laquelle
je tenterai de montrer que le statut de la philosophie l’autorise à prendre pour thème la
pensée formelle, jusque dans sa vocation objective.
Cependant, il est clair que la détermination de la pensée formelle comme pensée
d’objets s’inscrit en faux contre l’objection de « formalisme » classiquement adressée à la
pensée logico-mathématique. Ma seconde partie consistera donc à lever cette objection,
sous chacun de ses avatars, c’est-à-dire en montrant que la pensée formelle n’est ni une
pensée « aveugle » ni une pensée « vide », et ne saurait du même coup être réduite à une
pure manipulation de signes.
On l’aura compris, les rapports entre la philosophie et les sciences formelles ne
m’auront pas moins occupé que les rapports logique/mathématique. Tentant alors de
rassembler les acquis de ma discussion, je tenterai dans une troisième partie de montrer que
la réflexion philosophique sur les sciences logico-mathématiques n’est pas sans incidence
sur elles, contrairement à une idée communément admise, mais qu’en retour, le philosophe
a beaucoup à apprendre d’une réflexion sur les sciences formelles.
1. La question de la légitimité
Ainsi que je l’annonçais en commençant, la question de savoir si le philosophe est
légitime dans sa volonté de prendre pour thème la pensée logico-mathématique ne peut pas
être évitée, et cela pour plusieurs raisons.
D’abord, on observe entre la philosophie et les sciences logico-mathématiques une
profonde disparité, tant dans les domaines abordés que dans les procédures mises en
œuvre, et ces disparités sont de nature à favoriser un mutuel isolement.
Ensuite, alors que la philosophie se veut analyse compréhensive et élucidation de
l’expérience humaine dans la diversité (unifiée) de ses aspects, les sciences formelles se
préoccupent de questions qui en sont fort éloignées, sauf peut-être du point de vue tout «
utilitaire » de l’application aux faits humains.
Enfin, c’est un truisme que de rappeler la différence profonde qui sépare la
démonstration logico-mathématique de l’argumentation prudente, progressive, critique du
philosophe instruisant ses questions. Au-delà de la disparité des styles ou des méthodes,
c’est la manière même d’interroger qui est distincte : aux questions « formelles » des
sciences déductives, dont l’énoncé indique la forme à donner à la réponse possible, on peut
opposer les questions « informelles » 1 de la philosophie, dont la réponse ne saurait être
atteinte qu’au prix d’un questionnement qui la construit en spécifiant peu à peu le champ
ouvert par la question initiale.
Pourtant, il est un point sur lequel on peut faire converger la philosophie et les
sciences formelles, savoir, le signe et la question de la signification. Car d’un côté,
l’expérience que vise à reconstruire la philosophie n’est pas une expérience « brute », mais
déjà organisée par des systèmes de signes. D’un autre côté, les sciences formelles
développent une réflexion radicale sur les signes et les modalités et conditions de la

signifiance des systèmes symboliques, car elles affrontent de plein fouet la question du «
sens » des formules qu’elles permettent de construire et de manipuler. Par là, non seulement
les préoccupations de la philosophie et des sciences formelles peuvent se rejoindre, mais la
philosophie a tout intérêt à ne pas négliger ni méconnaître l’apport propre des sciences
déductives à l’élucidation de la question de la signification, nous y reviendrons.
Seulement, montrer un point de convergence possible, fût-il radical, n’est pas encore
trancher la question de la légitimité. Or, cette question se pose avec acuité et insistance, et
elle a un caractère radical, en ceci qu’elle engage le statut même de la philosophie.
Expliquons-nous : la philosophie prenant pour thème la pensée logico-mathématique
est en position de redoublement à l’égard de cette pensée, ce qu’on traduit quelquefois en la
qualifiant de « réflexive ». Or, toute forme de redoublement n’est pas légitime. On se
souvient de la mise en garde de Wittgenstein2 : ce que les signes montrent, aucun autre
système de signes ne saurait le décrire. La langue étant une représentation du monde (de la
totalité des faits), on ne peut en faire usage pour représenter son propre mode de
représentation, car ce n’est pas là un fait. Ce mode de représentation ne peut que se
montrer dans l’usage du symbolisme. La logique est alors conçue comme l’ensemble des
règles qui gouvernent ce mode de représentation, et les tautologies, qui sont le schème de
ces règles, ne sont pas tenues pour de véritables propositions, dans la mesure où elles ne
« parlent » pas « d’objets » .
Cette réserve qu’exprime Wittgenstein frappe-t-elle d’interdit toute tentative de «
saisie réflexive » d’une réalité déjà constituée dans un ensemble signifiant ? Ce serait
ruineux pour la philosophie. Mais peut-on alors, et comment, distinguer un redoublement
légitime d’un redoublement illégitime ?
C’est exactement ce que propose Granger (cf. note 2), en opposant deux formes de
redoublement : celui qui prend la forme d’une métathéorie, et celui qui prend la forme d’une
métadiscipline. Précisons :
Selon Granger, serait « métathéorique » une doctrine qui traiterait son « objet » (une
discipline du premier ordre) exactement comme celle-ci traite ses objets. Mais il est clair que
ni la production des « objets » mathématiques, ni l’organisation de la pensée telle que la
logique peut la révéler ne sauraient être réduites à de simples objets. Un traitement
métathéorique aurait donc ici toutes les chances de se limiter à une simple paraphrase, et
échouerait de surcroît dans sa prétention fondatrice, car il se situerait toujours sur le plan
des « objets d’un certain ordre », appelant par conséquent une théorie des objets de l’ordre
suivant.
Afin d’échapper à ces restrictions, une métadiscipline devra s’établir sur un statut
différent de celui de simple théorie. Bien sûr, une métadiscipline se trouve encore en position
de redoublement, bien sûr, elle parle encore « sur » des systèmes de signes, mais sans les
réduire à de simples objets, et en ayant toujours en vue la détermination des conditions de
leur fonctionnement, et la délimitation de leur champ d’application.
Si on accorde ces distinctions, il devient possible de voir dans la philosophie quelque
chose comme la métadiscipline par excellence. La philosophie, chacun l’accordera, n’est pas
une connaissance d’objets. Une telle connaissance, caractéristique du savoir scientifique,
tente de représenter ses données selon des schémas ou des modèles abstraits, sur lesquels
d’une part peut s’exercer une pensée combinatoire et déductive, et à partie desquels d’autre
part on peut tirer des énoncés qu’une mise en correspondance avec l’empirie permettra de
valider ou d’infirmer. Or, rien de tel dans la connaissance philosophique. Elle est, conclut
Granger :

« La métadiscipline dont le thème est l’ensemble, constamment renouvelé, mais
aussi jusqu’à présent conservé dans la mémoire des hommes, des œuvres où ils
organisent, à travers toute espèce de signes, leur expérience » (op. cit, p. 125).
C’est donc en tant que métadiscipline que la philosophie peut être légitimée dans son
traitement des sciences logico-mathématiques, et ce traitement peut s’orienter selon deux
axes : un axe « épistémologique » au sens classique, visant à une description et à une
analyse des méthodes et procédures déployées dans les sciences formelles. Et un axe
qu’on qualifiera de « transcendantal » où, remontant des systèmes de signes aux conditions
de leur signification, on cherche, dans une analytique de la fonction symbolique une solution
à l’énigme de la correspondance de la représentation et de la réalité.
C’est cette deuxième voie qui sera la nôtre ici, car elle nous fait renouer avec l’idée,
avancée en commençant, que la pensée formelle ne laisse pas d’être une véritable pensée
d’objets, et qu’elle a en outre le mérite de réactualiser un thème kantien au cœur de
l’épistémê contemporaine.
2. Que la pensée formelle est une pensée d’objets : en quel sens et à quelles
conditions on peut l’affirmer
2.1 Que la pensée formelle n’est pas « aveugle »
Affirmer que la pensée formelle est une pensée d’objets, c’est faire bon marché de
l’accusation de « formalisme » qu’on lui adresse communément, derrière laquelle se profilent
deux reproches : le premier, que la pensée formelle est aveugle, le second, qu’elle est vide.
Si le premier reproche énonce seulement qu’il n’est pas toujours immédiat de saisir « de quoi
» il est question dans un système formel, le second affirme plus radicalement qu’il ne saurait
y être question de rien.
Ces deux reproches trouvent peut-être, sinon leur justification, du moins leur prétexte
dans quelques traits inhérents aux sciences formelles ; si tel était le cas, on pourrait alors
rendre compte à la fois de leur genèse et de leur relative pérennité. Sans doute tenterons-
nous de les lever, mais en nous efforçant de leur rendre justice : certes, ils témoignent d’une
mésinterprétation de ce que sont en leur fond les sciences formelles, mais une
mésinterprétation qui résulte en partie de la nature même de ces dernières.
Soit à considérer le premier reproche, selon lequel la pensée formelle est aveugle. Dans une
telle pensée, se serait perdu ce rapport à l’objet qui fonde seul la transparence du discours.
Y a t-il dans la pensée formelle quelque chose qui motive un tel jugement ?
Pour qui est quelque peu familier des langages formels, ce reproche peut surprendre, car
l’un des principaux objectifs des défenseurs des langages artificiels a toujours été justement
de remédier aux imperfections (tant du point de vue du sens que de celui de la vérité) des
langues vernaculaires. C’est là en particulier ce qui motive le recours systématique au
symbole, qui présente plusieurs avantages immédiats :
1. Parce qu’il fait l’objet d’une définition univoque et explicite, il pallie les variations de
sens en cas d’occurrences multiples dans un contexte donné, par où il lève
l’ambiguïté sémantique de bien des énoncés en langue naturelle.
2. Parce qu’il a valeur abréviative, il autorise la manipulation et le traitement
d’expressions à la fois plus longues et plus complexes que celles qu’on aurait à gérer
sans ce moyen.

3. Parce qu’il marque la place que doit occuper dans la formule ou l’argument telle ou
telle (classe d’expression, il rend manifeste sa structure, que ne dévoile pas toujours
sa « grammaire de surface » 3.
4. Enfin, parce que son usage n’est pas limité aux seuls « termes », mais s’étend aux
opérations sur les termes, c’est le mouvement même de la pensée qui devient explicite et
contrôlable par son moyen.
Cependant, et par là sans doute se justifie le grief de « pensée aveugle », par une sorte de
renversement, l’opacité se réintroduit dans le langage formel de la logique et des
mathématiques, par le biais de l’introduction des variables. On sait que l’introduction des
variables est indispensable au calcul logique, conçu comme calcul fonctionnel, car seules
elles sont en mesure d’assurer au discours logique sa généralité. Une proposition qui serait
vraie de Platon mais pas d’Aristote ne relèverait pas de la logique. Mais la généralité ne
saurait être acquise qu’une fois surmontée l’indétermination inhérente à toute formule
contenant des variables. C’est donc sous les espèces de l’indétermination que l’opacité se
réintroduit dans le discours logique, et elle ne saurait être vaincue qu’en s’assurant qu’une
expression de la forme « Φx » ou (x) (Φx) » a une signification.
C’est là une difficulté qu’eurent à affronter de plein fouet les auteurs des Principia
Mathematica, difficulté dont la solution requiert rien moins que l’introduction et la définition
des quatre idées primitives de variable, fonction propositionnelle, assertion et quantification,
le tout indexé à une théorie de la « signification logique » ou dénotation des expressions
générales de la logique. Pour Whitehead et Russel4, le discours logique a cette particularité
de ne plus référer directement à des individus ou des faits particuliers. Le sens des formules
logique, nécessairement indirect et discursif, n’est garanti qu’au prix du maintien de leur
corrélation avec des objets de référence possible, cela même qu’assure leur dénotation.
Toute introduction d’un nouveau symbole dans le calcul devra satisfaire aux exigences de la
« signification logique ». Dès l’abord se pose donc la question du sens d’une expression
contenant une (des) variables(s).
Les auteurs des PM attribuent aux variables deux caractères essentiels :
1. Une variable est ambiguë dans sa dénotation parce qu’elle est indéterminée :
l’expression « x est mortel » dénote ainsi de façon ambiguë Socrate, Platon,
Alcibiade, soit différentes valeurs possibles de la variable.
2. Une variable préserve une identité reconnaissable dans les différentes
occurrences d’un même contexte : dans un contexte C, les variables x et y dans « x
est blessé » et « y est blessé » représentent les places de deux valeurs d’individus
distinctes.
Mais cela ne dit rien encore sur le « sens » d’une expression comme « x est blessé ».
Or, répondre à cette question requiert l’introduction et l’explication d’une seconde idée
primitive de la logique pure, celle de « fonction propositionnelle ».
Une telle fonction s’obtient par substitution de variables aux constantes d’individu et
de prédicat dans une proposition élémentaire ; ainsi, la proposition « Socrate est mortel »
devient la fonction « Φx », schéma à partir duquel on peut engendrer un ensemble de
propositions élémentaires, par simple assignation aux variables de toutes les valeurs
possibles. Les auteurs des PM introduisent encore un autre symbole, « Φx », pour désigner
la fonction elle-même. Ce qui a pour effet de disqualifier la valeur diacritique de la variable :
alors que les expressions « x est blessé » et « y est blessé » dans un contexte C peuvent
être distinguées, les expressions « x est blessé » et « y est blessé » en revanche ne
véhiculent aucune différence de signification. Ainsi, l’expression « Φx » est-elle une valeur