Kurt Gödel et la folie de la logique.

Les Démons de Gödel. Logique et folie par Pierre Cassou-Noguès. Éditions du Seuil, 2007, 284 pages, 21 euros.
Qu’il y ait eu des savants, et parmi les plus illustres, qui furent, par ailleurs, en proie au délire, pourquoi ne pas songer à l’intérêt que Newton marqua pour l’alchimie, voire l’astrologie, dans des papiers depuis retrouvés ? Sans, même, penser à de grands mathématiciens tels Cantor ou Turing (théoricien de la calculabilité). Mais, justement, peut-on forclore le « sujet » humain dans les disciplines formelles ? Ou bien ledit « sujet » réapparaît-il ou, plutôt, ne disparaît-il jamais dans ses œuvres les plus rationnelles ? Et, surtout, de quel « sujet » s’agit-il ? Le livre, passionnant, informé et de lecture aisée de Pierre Cassou-Noguès nous présente une intéressante étude de cas qui ne prétend pas trancher définitivement toutes ces questions. Cassou-Noguès a dépouillé les archives Gödel à l’université de Princeton et a fait son miel de la transcription, encore partielle et incomplète, des notes de Gödel rédigées avec une sorte de code sténographique.

Par ailleurs, agrégé de mathématiques, il connaît les travaux scientifiques de Gödel ainsi que le « contexte » qui leur donne tout leur sens. Allons au plus court : Gödel, surtout vers la fin de sa vie, fait montre de traits paranoïaques assez typiques : peur d’être empoisonné (il est quasiment mort d’inanition), d’être la proie de fantômes, peur panique d’être assiégé par un « autre ». On laissera l’interprétation des symptômes à la science des analystes et des psychiatres (il a, un temps, fréquenté un jungien, dont il fut même le patient).Par ailleurs, c’est plus intéressant, mais nous ne sommes pas encore au cœur du débat, Gödel ne croit pouvoir rendre compte des idéalités mathématiques qu’en les séparant du « monde sensible », comme si, pour vraiment pratiquer les mathématiques, il faudrait ne plus avoir de corps, - être un ange, pourquoi pas ? Gödel en vient presque à reprendre la fin du Phédon : c’est l’esprit qui a tout organisé. « Platonisme », dira-t-on, mais en un sens très vague et très banal. Ou Platon relu par Leibniz (p.219). Ce qui est plus difficile à saisir et expliciter, c’est la position d’un sujet qui élabore un savoir établissant que si n’est pas exclue « la possibilité d’une démonstration métamathématique de la consistance de l’arithmétique », ce qui est, en revanche, exclu, « c’est la possibilité de refléter cette démonstration dans les déductions formelles de l’arithmétique » (Le théorème de Gödel, Seuil, 1997, p.91).

Position d’un sujet : on ne confondra pas le sujet qui trouve une démonstration (et, en ce domaine, il n’y a pas de recette, rien n’est automatisable) et la démonstration elle-même que l’on peut, ensuite, exposer sans référence au processus grâce auquel elle a été élaborée. La découverte de Gödel sera plus compréhensible lorsque, quelques années après la publication de son travail (1931), Turing donnera une définition précise de la notion de système formel (1936-7) : s’il apparaît qu’ « une machine de Turing ne peut pas prouver la consistance du système dans lequel elle travaille ou ne peut pas écrire une formule qui exprime la consistance des règles qui déterminent son fonctionnement (si celles-ci sont bien consistantes) » (Cassou-Noguès, p.121), le théorème de Gödel nous renseigne-t-il, d’abord et avant tout, sur les limites de l’axiomatisation, d’une partie de l’arithmétique puis, plus généralement, de tout système formel axiomatisé ? Les axiomes de l’arithmétique sont essentiellement incomplets, toutes les vérités arithmétiques ne peuvent donc être obtenues en les déduisant formellement à partir des axiomes de l’arithmétique. Ou bien le sujet se trouve-t-il, également, mis en jeu ?

Comme si - la comparaison est osée, mais elle n’est pas déplacée - la distinction, conceptuellement très claire, entre mathématique et métamathématique, trouvait son homologue dans une sorte de scission, interne au sujet, entre un sujet mathématicien et un sujet métamathématicien. Ce qui pourrait conduire, dans une économie psychique singulière, quasiment à une dissociation, le sujet métamathématicien devenant l’autre du sujet mathématicien (p.109). Voire le Grand Autre, le Tout Autre : Dieu et/ou le diable (hypothèse prudemment émise, pp. 160 sq, les textes de Gödel ne sont ni très nombreux ni très clairs, mais ils ne sont pas tous encore déchiffrés). Et l’expérience, assurément réelle, de l’intuition à l’œuvre dans les découvertes mathématiques, mènerait, elle aussi, à une scission du sujet, - telle une productivité de ce dernier qui, en quelque sorte, lui échappe : un peu comme l’autre scène, l’inconscient freudien (pp.86 sq.). Ce n’est qu’une piste : à cet instant, il deviendrait possible de commencer d’établir des liens entre la pratique de chercheur en mathématiques de Gödel et la configuration singulière de son économie psychique. Ce vers quoi pourrait nous conduire Cassou-Noguès. Affaire à suivre.

(*) Un ensemble donné de postulats servant de fondement à un système est « consistant » lorsqu’il est exclu qu’on puisse en déduire des théorèmes contradictoires, soit les propositions p et non-p.

Jean-Pierre Cotten, philosophe

Article extrait du site humanité.fr