Remarques sur les fondements des mathématiques

Les Remarques sur les fondements des mathématiques (Bemerkungen über die Grundlagen der Mathematik) ne forment pas un livre achevé par Wittgenstein. C'est un choix établi après sa mort à partir de carnets et de tapuscrits rédigés entre 1937 et 1944, les années où il travaillait aussi aux Recherches philosophiques. Les éditeurs, G.H. von Wright, Rush Rhees et Elizabeth Anscombe, l'ont publié en 1956, avec la traduction anglaise d'Anscombe en regard du texte allemand.

Le sujet n'est pas la mathématique elle-même, mais l'image que nous nous en faisons. Wittgenstein ne démontre aucun théorème et ne propose aucun nouveau fondement. Il demande ce que nous faisons quand nous calculons, démontrons ou suivons une règle, et pourquoi il est si tentant de croire que les nombres habitent un monde à part, en attendant d'être découverts.

Comment le livre est né

À partir de la fin des années 1930, Wittgenstein remplit cahier sur cahier de remarques sur la preuve, le calcul, la contradiction et la nécessité logique. Une bonne partie de la première partie provient d'un tapuscrit de 1938 qui contient aussi une version ancienne du début des Recherches. En 1939, il consacre ses cours de Cambridge aux mêmes thèmes, devant un auditoire où se trouve Alan Turing. Reconstitués à partir de notes d'étudiants, ces cours ont paru en 1976 sous le titre Lectures on the Foundations of Mathematics, édités par Cora Diamond.

La première édition de 1956 comptait cinq parties. Une édition revue et augmentée a suivi dans les années 1970 (en anglais en 1978), en sept parties, avec des passages que les premiers éditeurs avaient écartés. L'article de la Stanford Encyclopedia consacré à sa philosophie des mathématiques détaille les manuscrits utilisés.

Ce que dit le livre

Quelques idées reviennent sans cesse.

• Une preuve crée une règle. Une démonstration ne rapporte pas un fait sur un objet abstrait. Elle nous amène à adopter un nouveau critère de ce qui est correct. Après la preuve, nous utilisons le résultat comme une norme.
• Les mathématiques s'inventent, elles ne se découvrent pas. Wittgenstein est franchement antiplatonicien. Il traite les propositions mathématiques comme des règles de grammaire plutôt que comme des descriptions.
• Une règle suppose une pratique. Plusieurs passages célèbres sur le fait de suivre une règle apparaissent déjà ici : l'élève qui poursuit la suite « ajouter 2 » de façon inattendue après 1000, et la question de savoir ce qui rend une continuation correcte.
• La contradiction effraie trop les logiciens. Pourquoi une contradiction cachée dans un calcul serait-elle une catastrophe si personne ne la rencontre jamais ? Il en a débattu avec Turing en 1939.
• Méfiance envers l'infini. Il critique la théorie des ensembles et l'argument diagonal de Cantor, et voit l'infini comme un trait d'une règle, non comme une totalité achevée.

Un appendice de la première partie contient les remarques sur le théorème d'incomplétude de Gödel, sans que celui-ci soit nommé. Ce sont les pages les plus controversées du livre.

Comment le lire

C'est le plus difficile des livres de la seconde période. Les remarques sont denses, répétitives, parfois contradictoires parce que Wittgenstein cherche encore. Il faut quelques notions de logique et d'arithmétique élémentaires, et beaucoup de patience. En français, le texte est disponible chez Gallimard (traduction de Marie-Anne Lescourret, 1983). Pour vérifier l'allemand, l'édition anglaise bilingue révisée (Blackwell 1978, reprise par MIT Press) reste la référence.

Le meilleur point d'entrée, ce sont les cours de 1939 : ils couvrent le même terrain sous forme de dialogue, avec un Turing qui résiste. Lisez ensuite la première partie des Remarques, puis les §§185-242 des Recherches philosophiques pour voir où ce matériau a abouti.

Réception

Les premiers comptes rendus furent sévères. Michael Dummett y voyait un conventionnalisme radical, Paul Bernays contestait la conception de la preuve, et Georg Kreisel jugea le livre comme un produit faible d'un esprit brillant (il nuança plus tard). Les remarques sur Gödel passèrent longtemps pour un simple contresens. Depuis 2000, Juliet Floyd et Hilary Putnam soutiennent que Wittgenstein comprenait Gödel mieux qu'on ne le croyait, une lecture qui reste discutée. Aujourd'hui, le livre est surtout lu par des philosophes, et ses analyses de la règle ont eu plus d'influence que ses thèses sur les mathématiques.

Verdict

Lisez-le si vous connaissez déjà la conception de la signification comme usage et voulez la voir à l'épreuve du cas le plus dur : la nécessité apparente de 2 + 2 = 4. À éviter comme première lecture. Les intuitions sont réelles, mais il faut creuser, et certaines affirmations sur Gödel et la théorie des ensembles restent pour le moins discutables.