Entretien avec Pierre Wagner sur la logique formelle, la philosophie et l'informatique

De la nécessité de former les étudiants de philosophie à la logique et à l’informatique

Vous êtes depuis longtemps le responsable du parcours de Licence « Logique et culture scientifique ». Or, dans ce parcours, on peut retrouver non seulement des enseignements de logique et d’initiation au raisonnement formel et mathématique, mais aussi un cours de « Philosophie et informatique » (niveau L2). Cela est une sorte de unicum parmi les cours de licence offerts aux étudiants de sciences humaines à Paris 1. Pourriez-vous nous donner quelques observations sur ce cours et sur ces finalités ?

Pour bien comprendre la raison d’être et les finalités du cours de « philosophie et informatique » qui est proposé aux étudiants de deuxième année, il est utile de le replacer dans le contexte de la formation en logique qui est offerte à l’UFR de philosophie. La plupart des UFR ou des départements de philosophie ont un enseignement de logique, mais qui se limite le plus souvent à un ou deux cours de logique élémentaire. À Paris 1 Panthéon-Sorbonne, l’UFR de philosophie propose une formation initiale en logique qui est requise pour les étudiants de première année. Cette formation se prolonge en option à partir de la deuxième année, d’abord dans le parcours « Logique et culture scientifique » de la licence de philosophie, ensuite, en deuxième et troisième année, puis dans le parcours « Logique et philosophie des sciences » du master de philosophie, avec la possibilité de poursuivre par une thèse de logique, de philosophie de la logique, ou sur un sujet qui mobilise les connaissances de logique acquises pendant les années de licence et de master. Cette formation avancée en logique, propre à Paris 1 Panthéon-Sorbonne, n’est pas nouvelle. Elle remonte aux années 1970, à l’époque où fut mise en place une formation en logique contemporaine, donc en logique mathématique et formelle, pour les philosophes et plus généralement pour les sciences humaines, sous la houlette de Roger Martin et de Jacques Bouveresse.

Pourquoi enseigner la logique aux étudiants en philosophie ? La réponse devrait être évidente car en un sens, la logique est traditionnellement conçue comme une partie de la philosophie, depuis l’Antiquité, chez un grand nombre de philosophes. La formation en logique qui est offerte à l’UFR de philosophie s’inscrit dans cette tradition. Mais bien sûr, les auteurs de la tradition philosophique n’ont pas tous donné au mot « logique » le même sens, et par ailleurs, le contenu ou les orientations de la logique ont considérablement évolué, ce qui vaut en particulier pour la période récente. Depuis une cinquantaine d’année le contenu de la formation en logique a considérablement évolué parce que la logique elle-même et les usages qui en sont fait ont également beaucoup changé, tout comme les rapports entre logique, informatique et philosophie. Il semble clair que les étudiants de philosophie ont besoin d’avoir au moins une connaissance minimale de ce qu’est un langage formel, un programme, une machine abstraite, comme les machines de Turing, de ce qu’est un texte de code informatique, qu’ils aient une idée du rapport entre calcul et raisonnement, des possibilités de mécaniser des opérations intellectuelles, des outils de cette mécanisation, de l’intelligence artificielle, de réfléchir à l’omniprésence des algorithmes dans notre environnement, etc.

Le cours de logique et informatique qui est offert aux étudiants de deuxième année a pour objectif d’introduire à ce genre de questionnement sur la base d’un apprentissage élémentaire et d’une pratique minimale de la programmation, des langages formels, des algorithmes, des machines abstraites. Il y a à la fois une approche élémentaire de ces éléments informatiques et une réflexion philosophique sur les conséquences de leur omniprésence, sur la base de textes qui sont lus et commentés. Les étudiants qui veulent approfondir ce type de questionnement peuvent prolonger leur formation dans la suite de la licence et en master, dans le parcours Lophisc. Certains considèrent que le bon usage de la logique, en philosophie, est au moins autant son usage propédeutique, comme moyen de développer l’habitude de la pensée précise, que son usage explicite pour la solution de problèmes philosophiques. Voilà certainement quelque chose qu’on peut dire également de la programmation, en dépit de ce que peuvent en penser les partisans d’une philosophie plus littéraire que scientifique.

Une thèse pionnière sur l'intelligence artificielle

Vous avez soutenu en 1994 une thèse de doctorat sur les relations entre machine et pensée et une habilitation à diriger des recherches sur le projet carnapien d'une logique de la science et son contexte historique. Pourriez-vous nous expliquer vos principaux travaux et ce qui vous a guidé vers ces thèmes ?

Ici encore, pour répondre à la question, je vais commencer par un détour sur ma formation et mon parcours.

Comme étudiant, dans les années 1980, je me suis engagé dans des études de philosophie avec un double intérêt pour les lettres et les sciences. À cette époque, les micro-ordinateurs commençaient à se répandre, et les traitements de texte à remplacer les machines à écrire. Il n’était pas difficile de comprendre qu’un tournant, pour ne pas dire une révolution, était en cours et qu’il y avait assurément matière à réflexion pour les philosophes. Avant même ma thèse, j’ai rédigé en 1984-1985 un mémoire de maîtrise sur les notions leibniziennes en traitement de l’information, sous la direction de Michel Serres. Cela supposait de se plonger dans la lecture des œuvres de Leibniz, en français, en allemand et en latin, mais aussi de s’initier à la programmation dans des langages comme Pascal, Lisp ou Prolog, ce que j’ai fait en suivant des cours de licence d’informatique à Paris VII et à l’Ecole normale supérieure. En 1985, j’ai passé une année à l’université de Stanford et je me souviens de ma surprise, dans les bibliothèques et les salles de travail de l’université, à la vue des dizaines de Macintosh alignés sur lesquels les étudiants travaillaient. Les catalogues étaient informatisés, alors que régnaient encore, dans les salles de catalogues des bibliothèques parisiennes, les longs tiroirs remplis de fiches cartonnées. À l’Ecole normale supérieure, j’étais élève littéraire mais je fréquentais aussi des mathématiciens qui avaient choisi la logique, et des passionnés d’informatique qui passaient leurs soirées dans les sous-sols en compagnie de mainframes bruyamment ventilés. J’ai été un des rares étudiants littéraires à saisir le texte de ma maîtrise de philosophie sur une de ces machines et à l’imprimer plutôt que de le saisir sur une machine à écrire.

Je me suis aussi initié à la philosophie analytique à l’occasion de mon mémoire de DEA (l’ancêtre du M2) sous la direction de Jacques Bouveresse et en découvrant une autre dimension de la logique, celle qu’on trouvait chez les philosophes qui l’utilisaient comme outil d’analyse du langage. À Stanford, université proche de la Silicon valley, j’avais suivi des cours de logique pour l’intelligence artificielle donnés par Michael Genesereth (auteur d’un livre de référence, Logical Foundations of Artificial Intelligence, avec Nils J. Nilsson) et j’ai eu l’occasion de rencontrer John McCarthy, l’un des fondateurs de l’intelligence artificielle. C’est dans ce contexte que je me suis orienté, quelques années plus tard, vers une recherche doctorale sur « Machine et pensée. L’importance philosophique de l’informatique et de l’intelligence artificielle. » De retour en France, et de retour à la réalité française, j’ai fait quelques grands écarts intellectuels en passant l’agrégation, tout en commençant des études de logique, à Paris 1 d’abord, où j’ai obtenu la licence et la maîtrise de logique, puis à Paris 7, où j’ai passé le DEA de logique et fondements de l’informatique, avec des professeurs comme René Cori et Michel Parigot.

J’ai eu la très grande chance que Jean Mosconi, auteur d’une thèse d’Etat savante et magistrale, malheureusement non publiée, sur La constitution de la théorie des automates, ait pu diriger ma thèse de doctorat. Sa connaissance profonde du domaine a été extrêmement précieuse pour moi. Il faut dire qu’au début des années 1990, la condition du doctorant était bien différente de celle de nos thésards actuels. J’ai préparé cette thèse en étant professeur de philosophie en lycée, donc en travaillant le soir, les week-ends et pendant les vacances scolaires, lorsque la vie de famille le permettait, sans aucun contact avec d’autres doctorants ou aucune équipe de recherche.

Si l’on passe ces détails biographiques et qu’on en vient au contenu de la thèse, l’objectif était celui d’une évaluation des ambitions et des moyens de l’intelligence artificielle de l’époque, qui n’a évidemment que de lointains rapports avec celle qui est développée aujourd’hui. Dans le titre, ou le sujet, de la thèse, « Machine et pensée. L’importance philosophique de l’informatique et de l’intelligence artificielle », il faut entendre l’expression d’un doute, ou d’une interrogation sur ce qui est philosophiquement pertinent dans la révolution informatique de l’époque. Est-ce que c’est vraiment l’intelligence artificielle elle-même, telle qu’elle se développait, ou est-ce que c’est l’informatique, plus généralement, l’omniprésence des algorithmes et des programmes, indépendamment de l’objectif affiché d’une concurrence avec l’intelligence humaine, ou plus exactement avec les multiples manifestations de ce que l’on convient de réunir sous l’appellation hautement problématiques d’intelligence ? Dans cette thèse, j’ai distingué plusieurs approches de la question : métaphysique, épistémologique, logique. Cette manière d’aborder le sujet donne le sens même de la problématique : quel est le bon point de vue pour comprendre : est-ce que c’est celui d’une métaphysique de la pensée et d’une philosophie mécaniste ? On discutait beaucoup, à l’époque, du texte de la chambre chinoise, de Searle. Est-ce que c’est celui de la psychologie et des sciences cognitives ? Il y avait les textes d’Hubert Dreyfus, sur les capacités spécifiques de l’esprit humain, et le problème de la représentation des connaissances d’arrière-plan. Est-ce que c’est celui de la logique ? De ce dernier point de vue, il y avait la question des conséquences philosophique des théorèmes d’incomplétude de Gödel, ou celle des rapports entre logique et calcul, ou entre logique et informatique. Il y avait bien sûr également les textes de Turing sur le jeu de l’imitation. Cette réflexion a été conduite il y a une trentaine d’années, à une époque où l’ambition initiale de l’intelligence artificielle des années cinquante, celle d’une intelligence générale, cédait le pas à ce qu’on nommait des systèmes experts très spécialisés (en médecine, en chimie, etc.), qui soulevaient eux-mêmes la question de ce qui fait la spécificité des capacités cognitives humaines. La question se posait donc de savoir si l’intelligence artificielle, comme telle, soulevait des problèmes philosophiques intéressants, ou si le véritable questionnement ne concernait pas plutôt l’informatique en général.

Un prolongement naturel de cette recherche doctorale aurait été une recherche post-doctorale dans le domaine des sciences cognitives, qui étaient en plein développement au début des années 1990. Il y avait des groupes de chercheurs qui réunissaient des linguistiques, des neurologues, des philosophes, des psychologues, des informaticiens, et qui espéraient une convergence des recherches sur la cognition. Je ne me suis cependant pas engagé dans cette voie, parce que j’estimais qu’elle m’éloignait trop de mon projet intellectuel originel, qui était proprement philosophique. Mon intention n’était pas de m’engager dans une pratique scientifique proprement dite, de quelque nature qu’elle soit, mais de rester dans le domaine de la philosophie en relation avec les sciences, ce qui m’a conduit à changer de sujet de recherche et à m’orienter vers l’histoire de la philosophie des sciences, l’empirisme logique, la philosophie de Rudolf Carnap, ce qui a constitué le sujet de mon habilitation à diriger des recherches, soutenue beaucoup plus tard, en 2009.

Expliquer le concept de pensée mécanique

Pourriez-vous nous expliquer le concept de pensée mécanique ? Est-ce que la pensée mécanique est une forme de pensée qui couvrirait toute pensée humaine ou un type de pensée particulière, comme la pensée symbolique ?

Cette question porte en fait sur les conclusions auxquelles je suis arrivé dans ma recherche doctorale. Il est fréquent que les docteurs qui viennent de soutenir cherchent à publier leur thèse sous la forme d’un livre. Il m’a semblé que ma thèse de doctorat avait un caractère trop exploratoire pour qu’elle puisse comme telle faire l’objet d’une publication. Je me suis alors engagé dans la rédaction d’un livre qui tirait les conséquences des conclusions de ma thèse pour aller plus loin et tenter de prolonger le travail accompli. Cela prit la forme d’un livre intitulé La Machine en logique, paru en 1998 aux Presses universitaires de France, dans la collection « Science, histoire et société » qui était dirigée par Dominique Lecourt. C’est dans cet ouvrage, et dans ce contexte, que j’ai tenté de faire droit à l’idée de pensée mécanique. Les approches philosophiques de l’intelligence artificielle (telle qu’elle était conçue à l’époque) me semblaient insatisfaisantes et il me semblait évident qu’une approche différente était possible et souhaitable. Un grand nombre de questions étaient effectivement soulevées au sujet de l’intelligence artificielle. Par exemple : des machines pourront-elles un jour faire tout ce qui est rendu possible par l’intelligence humaine ? À supposer qu’une machine ait un comportement indiscernable de celui d’un être humain, serions-nous justifiés à dire qu’elle est intelligente ou qu’elle est capable de penser ? Les théorèmes d’incomplétude de Gödel peuvent-ils servir à démontrer que certaines capacités humaines seront toujours inaccessibles aux machines ? La structure fonctionnelle des machines informatiques donne-elle des clefs pour les problèmes discutés en philosophie de l’esprit ? Quelle signification peut-on donner à une expression telle que « des machines pensent ». C’était vraiment ce genre de questions qui étaient discutées entre les gens qui s’intéressaient à l’Intelligence artificielle. Notons au passage que les questions les plus en vogue aujourd’hui parmi les philosophes qui s’intéressent à l’intelligence artificielle, par exemple sur l’éthique, les biais cognitifs ou l’explicabilité, sont vraiment d’une tout autre nature. Toutes ces questions étaient certainement légitimes, mais il me semblait qu’elles passaient à côté des véritables problèmes, ou disons des problèmes les plus intéressants et que la vraie difficulté était de trouver une formulation qui ne soient pas la répétition contemporaine de questions qui auraient pu être posées, ou qui ont été effectivement posées, dans le passé, bien avant les premiers essais d’IA. Lorsqu’on parlait de logique pour l’intelligence artificielle, il était question de systèmes de logique non monotone, du problème de la représentation logique des connaissances communes ou d’arrière-plan, ou encore du raisonnement en situation d’incertitude. C’est ce qu’on trouve typiquement dans le livre de Genesereth et Nilsson sur les fondements logique de l’IA. Pour moi, ce sont des questions d’ingénierie logique, au sens de la conception de systèmes formels adaptés à une application particulière, qui ne prennent pas les problèmes à la racine. Il me semblait beaucoup plus intéressant et plus profond d’essayer de comprendre le rapport entre une preuve et un programme, ou entre une opération logique de réduction d’un terme et l’effectuation d’un calcul. Est-il possible de distinguer, dans une démonstration mathématique, ce qui relève du calcul et ce qui relève de la preuve proprement dite. Voilà une tout autre approche, logique, des problèmes de la mécanisation de la pensée. Il me semblait intéressant de ne pas se focaliser sur ce qu’on appelait « intelligence humaine », expression hautement problématique, et de s’interroger sur les capacités des machines en partant de modèles abstraits du calcul, tels qu’ils sont étudiés en logique.

Par « pensée mécanique » j’entendais l’ensemble des capacités que manifestent ou pourraient manifester des machines et qui reposent sur des possibilités de calcul et de traitement de l’information. Cela correspond à une tout autre approche des questions philosophiques soulevées par l’informatique et l’intelligence artificielle que celles qu’on pouvait trouver dans la littérature il y a une trentaine d’année, au moment où je terminais ma thèse de doctorat. Mais dans les années qui ont suivi, le plus gros de mes recherches a suivi une autre orientation, vers l’histoire de la philosophie des sciences, et les usages que faisaient de la logique les empiristes logiques. Je n’ai donc pas poursuivi frontalement cette idée de pensée mécanique.

Aujourd’hui, je vois dans les travaux de l’un de mes doctorants, Henri Salha, une tout autre approche qui me semble extrêmement riche et prometteuse, développée à partir de la question de savoir si la programmation est une connaissance, et en quel sens. Il s’agit d’une thèse en cours, dont je ne peux parler plus longuement ici, mais qui à mon sens renouvelle en profondeur l’idée générale de pensée mécanique, en lui donnant un sens différent et beaucoup plus précis de celui que j’envisageais dans les années 1990.

Les travaux de Turing et de Wittgenstein sur les machines

Que faut-il retenir sur un plan philosophique des travaux de Turing sur l’IA ? Vous avez publié à propos des contributions de Wittgenstein sur le thème des machines et de la pensée, travaux un peu moins connus par le grand public que ceux de Turing. Pourriez-vous nous rappeler le point de vue de Wittgenstein et nous dire pourquoi il est important pour le devenir de l’IA?

Turing est mort en 1954, et le programme de l’intelligence artificielle est censé avoir été lancé à l’occasion d’une conférence qui eut lieu en 1956 au Dartmouth college, dans le New Hampshire aux Etats-Unis. Si l’on veut parler des travaux de Turing sur l’IA, il faut comprendre que l’on parle de textes de Turing qui ont été utilisés pour réfléchir aux questions soulevées ultérieurement par le programme d’intelligence artificielle. Mais Turing est célèbre en philosophie pour avoir écrit un texte intitulé « Computing Machinery and Intelligence », qui est fondamental pour toutes les questions classiques que j’ai discutées et critiquées dans ma thèse de doctorat. La question qui se pose aujourd’hui au sujet de ce texte est de savoir s’il est encore pertinent pour l’intelligence artificielle telle qu’elle est conçue aujourd’hui, et qui est très différente de l’IA du xx^e siècle. Il me semble que sur ce point la réponse est positive, mais il reste à savoir précisément quels sont les questions qui sont soulevées dans ce texte. Ce texte de Turing porte davantage sur l’intelligence humaine que sur l’intelligence artificielle comme résultat d’une technologie informatique. Bien sûr, Turing est aussi connu pour ses travaux sur la théorie de la calculabilité et sur un modèle de machine abstraite. On peut voir là un rapport avec l’intelligence artificielle, mais d’un tout autre point de vue, plus indirect.

Le lien peut être fait à partir d’une remarque de Wittgenstein, dans les Remarques sur la philosophie de la psychologie, dans laquelle Wittgenstein écrit « Les ‘machines’ de Turing. Ces machines sont bien les hommes qui calculent. Et l’on pourrait aussi bien exprimer ce qu’il dit sous forme de jeux. » En allemand : « Diese Maschinen sind ja die Menschen, welche kalkulieren. » Il se trouve qu’une traduction française a été publiée, dans laquelle on trouve « ces machines sont des hommes qui calculent », ce qui est un contresens.

Sur cette question, j’ai effectivement écrit un article intitulé « Wittgenstein et les machines de Turing » paru en 2005 dans la Revue de métaphysique et de morale, dont l’objectif était de discuter et clarifier cette remarque faite par Wittgenstein sur les machines de Turing, Si l’on cherche à aller au-delà de cette citation, on trouve que les relations entre Turing et Wittgenstein sont complexes et ont fait dans les dernières années, l’objet d’analyses savantes. La principale référence, sur cette question, est Juliet Floyd, qui est une spécialiste mondialement connue de Wittgenstein et qui a écrit plusieurs articles sur Wittgenstein et Turing.

Cela étant, sur Wittgenstein et l’intelligence artificielle (et non plus Wittgenstein et Turing), il existe un texte remarquable et beaucoup plus ancien qu’on ne peut éviter de citer, qui est l’article de Jacques Bouveresse, « Le fantôme dans la machine », dont une partie est parue en 1970, et l’intégralité en 1971 dans La parole malheureuse (Paris, Minuit, 1971). Cet article, ou ce chapitre, qui est un véritable petit livre de plus de 470 pages, est consacré à la question de la pensée des machines, considérée du point de vue de l’analyse du langage. Il s’agit donc d’une autre approche philosophique de l’intelligence artificielle, et d’une analyse des textes de Wittgenstein sur la pensée des machines. Bouveresse considère l’abondante littérature consacrée aux machines pensantes et s’interroge sur le genre de signification qu’il est possible de donner à une expression comme « les machines pensent », qui a toutes les marques d’une proposition que l’on devrait pouvoir considérer comme vraie ou fausse, mais que certains ont pu considérer comme sémantiquement déviantes. La discussion porte sur le type logique d’une proposition comme « les machines pensent » et sur la « grammaire » du verbe « penser ». A propos de quoi est-il légitime de demander s’il pense ?

Le lien entre la logique et l'intelligence artificielle

À l’heure du chat GPT, quel est le lien entre logique et intelligence artificielle ?

Quand on cherche à répondre à une telle question, on fait face à deux gros problèmes : qu’est-ce que la logique ? Et qu’est-ce que l’intelligence artificielle ? Il n’y a probablement pas de réponse qui soit à la fois simple et éclairante pour ces deux questions. Ce qui signifie que les liens entre logique et intelligence artificielle sont nombreux et divers. Ils ont surtout différents degrés de profondeur. À l’époque de l’intelligence artificielle du xx^e siècle, on est parti de l’idée d’une résolution générale des problèmes, le general problem solver, comme si l’on pouvait espérer écrire un programme général qui pourrait être appliqué à des problèmes quelconques, et ce projet s’est heurté à de nombreux problèmes : le rôle du sens commun et des connaissances d’arrière-plan dans la résolution de problèmes, la représentation formelle des connaissances, le raisonnement en situation d’incertitude ou de connaissances imparfaites, etc. Et on a fait appel à des outils logiques pour la résolution de ce genre de difficulté. Des méthodes de représentation formelle spécifiques, les systèmes logiques non monotones, des méthodes et des stratégies de résolution, etc. Si on veut qualifier de « logique » toutes ces méthodes, on pourra dire qu’elles s’appliquent à une certaine conception de l’intelligence artificielle. Mais ce n’est évidemment pas du tout en suivant cette voie que l’on arrive à des outils d’intelligence artificielle comme ceux que l’on connaît aujourd’hui, qui reposent sur l’application d’algorithmes spécifiques à des données massives. Où se trouve la logique dans de tels outils ? Il n’est pas du tout évident que ce soit la bonne question à poser. On a plutôt envie de demander quelles sont les méthodes formelles qui sont utilisées dans ces outils, et se pose alors la question de savoir si certaines de ces méthodes se distinguent comme étant proprement « logiques ». Si l’on cherche effectivement à répondre à une question de ce genre, il est tout à fait possible que l’on soit conduit à reconsidérer le sens du mot « logique », et à opérer des déplacements conceptuels. Cela a des conséquences évidentes sur la question initiale touchant l’enseignement de l’informatique dans le cursus de formation en logique, c’est une question que l’équipe pédagogique se pose : que devons-nous enseigner dans cette formation en logique ?