L'objection faite à l'intelligence artificielle par Roger Penrose dans ses deux récents livres (The Emperor's New Mind, 1989, Shadows of the Mind, 1994) n'est pas à prendre à la légère car le personnage est tout à fait considérable, Rouse Ball Professor à l'Université d'Oxford, il dispose d'une réputation enviable à la fois comme mathématicien, pour son exploration des dallages non-cycliques dits « de Penrose », et comme physicien, pour sa théorie des « twistors », contribution originale visant à lever certaines des ambiguïtés de la mécanique quantique.
Dans son premier ouvrage consacré à l'intelligence artificielle (The Emperor's New Mind, 1989), Penrose avançait que nos connaissances scientifiques actuelles sont insuffisantes pour produire la théorie nécessaire à la réalisation de l'intelligence artificielle. L'objection mérite d'être prise en considération : la physique que nous avons produite jusqu'ici ne nous permet pas de rendre compte de phénomènes pourtant aussi élémentaires que l'influence de deux corps sur un troisième, alors, qu'est-ce qui nous permet de supposer en effet que nous disposons du corpus théorique qui nous permettrait de reproduire l'intelligence sur une machine ?
Mais à peine a-t-on accordé un point à Penrose, que celui-ci se charge d'affaiblir sa propre thèse. Il applique en effet ce que David Chalmers a appelé la « loi de minimisation des mystères » en rapprochant le problème de la conscience de celui des états quantiques. L'ironie de Chalmers est la suivante : si la conscience et la réduction du train d'ondes sont chacun un mystère, pourquoi ne pas considérer qu'il n'en font en réalité qu'un. Les mystères pourraient être différents : la nature trinitaire de Dieu en est un autre. Si je montre, à la suite de Lacan, que les trois concepts de Réel, d'Imaginaire et de Symbolique expliquent le sujet humain, et si je rapproche, le Réel du Père, l'Imaginaire du Fils, et le Symbolique du Saint-Esprit (ce qui peut bien entendu fort bien se défendre), alors j'ai bien expliqué que le mystère de la nature trinitaire de Dieu et celui du sujet humain n'en font en réalité qu'un seul.
Dans son premier ouvrage, Penrose semble dire : si l'on n'a pas encore compris le principe de la mécanique quantique, comment voulez-vous qu'on explique l'esprit humain ? Dans son ouvrage le plus récent (Shadows of the Mind, 1994), sa thèse est différente : si l'intelligence artificielle n'est pas possible, affirme-t-il, c'est que l'on se fonde pour sa production sur notre compréhension du réseau de neurones qui constitue le cerveau humain, alors que le processus (?) de la conscience est généré à l'intérieur des micro-tubules qui constituent le cyto-squelette de la cellule - en tant qu'ils sont les seuls organelles susceptibles d'enregistrer au niveau macroscopique les effets quantiques que Penrose (à la suite de Hamerhof) suppose à l'origine de la conscience, « organe » pour lui de la pensée .
La thèse cette fois, n'a plus rien à voir avec celle du premier ouvrage : il n'est plus dit que l'intelligence artificielle est impossible, il est dit au contraire qu'elle sera possible dès que l'on aura compris comment fonctionne le réseau constitué des microtubules. C'est là la deuxième manière dont Penrose affaiblit sa propre thèse.
Ce qui sous-tend donc en réalité l'objection de Penrose - on le comprend maintenant a posteriori, après avoir lu le second ouvrage - ce n'est pas qu'on n'en sache pas assez sur les lois de la physique pour produire l'intelligence artificielle, mais qu'on n'en sache pas assez sur le fonctionnement du cerveau. Voyez, semble-t-il dire, on pensait qu'il ne s'agissait que de neurones et en fait, il y a tous ces microtubules. Mais cette objection-là n'est pas sérieuse : elle se fonde sur un présupposé réductionniste qu'il vaut mieux ignorer, d'autant que le fonctionnement supposé des microtubules est celui d'automates cellulaires, assimilable, tout autant que celui d'un réseau de neurones formels, à une machine algorithmique universelle telle que définie autrefois par Turing. L'objection à partir du théorème de Gödel est donc - en toute logique - caduque.
A-t-on besoin de comprendre parfaitement le fonctionnement du cerveau humain pour produire l'intelligence artificielle ? La réponse est non, il suffit de simuler ce comportement en tant qu'il est intelligent. Bien entendu, cela ne ferait pas de mal de comprendre comment fonctionne le cerveau humain, puisqu'on découvrirait là un moyen évident de simuler son fonctionnement, mais ce n'est pas indispensable. Certains cas puisés à l'histoire de la technologie suggèrent d'ailleurs que l'obsession du mécanisme identique peut parfois constituer un obstacle : exemple archi-connu, l'aéroplane qui n'est devenu possible que lorsqu'on a cessé d'être obnubilé par l'image de l'oiseau qui vole parce qu'il bat des ailes.
Imaginons des Martiens qui viennent sur Terre et qui veulent produire une « automobile artificielle ». La première équipe, que j'appellerai l'équipe Penrose, procède de la façon suivante : elle achète une automobile, ouvre le capot, fait le relevé de toutes les parties métalliques, de tous les circuits électriques, de tous les tuyaux qui font circuler des liquides, etc., essaie de tout comprendre. Elle découvre au bout d'un moment qu'elle ne comprend pas tout et déclare solennellement qu'il est prématuré d'envisager l'« automobile artificielle ». L'autre équipe, que j'appellerai modestement l'équipe Jorion, s'installe au bord des rues et des routes, observe le comportement des automobiles, regarde comment elles accélèrent et comment elles freinent, examine comment les conducteurs font pour ranger leur véhicule le long des trottoirs, formule des hypothèses, se met à construire des machines au comportement analogue à celui des automobiles et, seulement alors, soulève un capot pour voir si ce qu'on voit en-dessous est compatible avec les hypothèses qui ont été produites chemin faisant.
La thèse développée par moi dans Principes des systèmes intelligents (1990), que l'essentiel en intelligence artificielle est que la machine produise des phrases, c'est-à-dire des suites de mots qui fassent sens « comme s'il y avait à la place d'où elle parle, un être intelligent », n'implique en aucune manière que ces suites intelligentes de mots soient produites « de la même façon » que le fait un être intelligent.
Tout cela n'exclut cependant pas que l'on reprenne l'idée de départ de Penrose, même s'il s'avère que lui-même ne l'a jamais vraiment prise au sérieux, que nous ne savons pas encore assez de la physique pour produire des systèmes intelligents. La thèse ne peut être réfutée effectivement que par la réalisation du projet de l'intelligence artificielle, à savoir par la réalisation du système intelligent. En attendant, la seule chose qui soit possible est d'évaluer la plausibilité de son hypothèse. Explorons-la donc systématiquement.
Le parcours de Penrose dans ses deux ouvrages paraît à première vue confus : on ne voit pas pourquoi il doit nous emmener initialement dans un voyage extraordinaire qui nous conduit de la nature profonde des mathématiques à la gravitation quantique, tout en examinant de manière détaillée tout ce que l'on peut imaginer entre les deux, et en particulier, la relativité générale et la mécanique quantique. On le soupçonne du coup, soit - hypothèse favorable - d'avoir voulu écrire un ouvrage de plus consacré à la vulgarisation de la physique contemporaine, soit - hypothèse défavorable - de n'avoir pas pu s'empêcher de coucher sur le papier tout ce qu'il sait sur quelque sujet que ce soit. Mais en fait, et après un débroussaillage consciencieux, un raisonnement très précis apparaît, sous-tendant l'exposé et entièrement décomposable en étapes logiquement articulées :
* La pensée ne peut pas être algorithmique (la découverte par Gödel du théorème d'incomplétude de l'arithmétique, qui porte son nom, l'établit) ; elle est probablement non-locale (1994: 351), et doit laisser place à la contre-factualité (que Penrose entend comme l'« influence » d'une alternative non-réalisée sur celle qui se réalise en fin de compte ; cette conception ne correspond pas à l'usage introduit par Lewis dans son ouvrage Counterfactuals [1973]; on voit mal en quoi la conception que se fait Penrose de la contre-factualité se distingue du simple constat que certains événements peuvent se produire ou non, c'est-à-dire sont contingents).
* La physique est incomplète, elle ne sera complète que lorsqu'aura été réalisée la gravitation quantique qui articulera deux parties incontestablement valides de la physique mais aujourd'hui inconciliables : la mécanique quantique et la théorie de la relativité.
* Tout indique que la gravitation quantique sera non-algorithmique (sans quoi elle aurait déjà été formulée).
* Si la conscience résultait d'effets de gravitation quantique, elle serait automatiquement non-algorithmique - ce qui est en effet l'une de ses propriétés requises.
* Il faudrait pour cela évidemment que la gravitation quantique puisse se manifester au niveau macroscopique (sans quoi les courants induits par l'activité neuronale à l'échelle macroscopique interdiraient à son action de manifester leur influence), ce qui n'est possible que si certains de ses effets se propagent de manière cohérente pour constituer des faisceaux de particules se comportant collectivement de manière synchrone.
* Un tel effet est possible dans les microtubules du cytosquelette des cellules remplis d'eau cohérente, où les dimères qui les constituent peuvent engendrer des effets de type automates cellulaires (qui sont algorithmiques - remarque déjà faite plus haut).
* En conséquence, la conscience est un phénomène de type laser - ce qui ne devrait pas surprendre puisque sa caractéristique première est la compréhension qu'elle manifeste et qui « illumine », « éclaire », tout objet sur lequel elle se penche.
Ce que Penrose est donc parvenu à faire, arrivé à destination du parcours tortueux de ses deux ouvrages, c'est à proposer - dans la continuation du paradigme "intelligence" / "ordinateur" - un nouveau paradigme, "conscience" / "lumière".
La question qu'il convient alors de se poser, c'est celle-ci : a-t-il du coup fait avancer la solution du problème en mettant en évidence - par le raisonnement (de manière déductive, à la façon des « philosophes de la nature ») - ce que doit être la nature de la conscience ? ou a-t-il été guidé inconsciemment vers une platitude de sens commun : conscience = lumière ? Si c'est le deuxième cas, il aura illustré involontairement un cas splendide de « philosophie spontanée du savant , selon l'expression de Louis Althusser : l'épistémologie du savant se confond avec la naïveté épistémologique (Althusser [1967] 1974).
En réalité, si Penrose maîtrise bien tout ce qui est de la physique « avant l'homme , dès qu'il y a de l'humain, il se cantonne dans son physicalisme, sans voir qu'il devrait aller plus loin, en poursuivant la même démarche, mais en accédant à un niveau supérieur. Son être humain est hobbesien, pré-social, autonome. Ce qui fait défaut à sa démarche, c'est d'envisager une physique qui compte de nouveaux niveaux de structuration. Il n'y a chez lui aucune place pour l'interactivité : la conscience émerge de l'individu comme monade. Il ne pense pas à un mécanisme possible tel celui que met en scène le dilemme du prisonnier tel que le présente Lacan où chacun des prisonniers ne peut aboutir à une conclusion valide que par un jeu compliqué où il doit tenir compte en tant que « je » du fait que les autres le comptent comme « tu », c'est-à-dire comme un « je », au même titre qu'eux-mêmes : « ... la référence d'un "je" à la commune mesure du sujet réciproque, ou encore : des autres en tant que tels, soit : en tant qu'ils sont autres les uns pour les autres » (Lacan 1966 : 211). Autrement dit, que le « je » puisse émerger d'un sujet comme une nécessité logique en raison de l'application systématique qui lui est fait d'être un « tu » : le lieu où un ensemble de « tu » se superposent. Peirce a raison de considérer que la conscience est construite comme le résultat d'une inférence : c'est parce que les autres se comptent comme « moi » et me traitent moi aussi comme un « moi », qu'il est raisonnable que j'en fasse autant à propos du lieu de ma conscience de moi :
« L'enfant apprend à comprendre le langage ; c'est-à-dire qu'un lien s'établit dans son esprit entre certains sons et certains faits. Il a déjà remarqué une connexion entre ces sons et le mouvement des lèvres sur des corps plus ou moins semblables à son corps propre ; il a tenté l'expérience de poser la main sur ces lèvres, et il a trouvé que dans ce cas le son était étouffé. Il fait ainsi le rapport entre le langage et des corps en quelque sorte semblables à son corps propre. Par des efforts qui exigent si peu d'énergie qu'il faut les considérer comme des actes instinctifs plutôt peut-être que comme des tâtonnements laborieux, il apprend à produire ces sons. Ainsi commence-t-il à parler. (...) On doit donc conclure qu'il n'est aucunement nécessaire de supposer une conscience intuitive de soi, puisque la conscience de soi peut aisément résulter de l'inférence. » (Peirce [1868] 1984 : 183-185).
Penrose est parfaitement à l'aise lorsqu'il s'agit de logiques particulaires ou de champ. Il envisage également très bien que par la cohérence de comportements coordonnés, des phénomènes qui appartiennent d'ordinaire à un niveau particulier d'échelle (ou plutôt comme il le dit à un niveau énergétique particulier) émergent de manière collective à un niveau supérieur (comme ce serait le cas pour les phénomènes de type laser). Il n'a pas de mal non plus à traiter des phénomènes non-linéaires qui débouchent sur des parcours en « fractales » à l'intérieur de ce qui constitue leur espace de phase, et qui sont - d'un point de vue macroscopique - auto-similaires, c'est-à-dire, invariants dans leur forme par rapport à l'échelle. Tout niveau additionnel implique en effet ses propres lois, ses propres principes de structuration. Ce que Penrose n'aperçoit pas, c'est que quand il traite de l'humain, il lui faudrait envisager des principes explicatifs supplémentaires qui ne seraient ni en termes de particules ni en termes de champs qui rattachent des vecteurs individualisés à des quantités énormes de points. Il s'agit de structures qui trouvent dans les collectivités humaines leur support, comme c'est le cas en particulier pour lalangue et pour le prix.
Quand Stuart Kaufman s'attache à mettre en évidence les processus dits d'auto-organisation qui constitueraient un domaine intermédiaire entre l'inerte et le vivant, il s'agit toujours de révéler les transitions de phase spécifiques qui marquent la délimitation entre différents niveaux de structuration [1993, 1995]. Le passage de l'un de ceux-ci à un autre est le plus souvent non-linéaire. La cohérence physique de type laser, est un exemple a contrario : un phénomène apparaît à un niveau d'échelle supérieur à son niveau habituel en raison d'un comportement en masse mais unifié. L'émergence de la cohérence physique au niveau humain c'est l'armée qui marche au pas et fait s'écrouler le pont par sa synchronisation même (il s'agit d'une simple curiosité, mais comme souvent en science, une « curiosité » est une anomalie qui débouche à terme sur une nouvelle représentation, une nouvelle compréhension des choses). Les phénomènes cohérents à l'échelle humaine ont une force bien supérieure à celle de l'espèce distribuée dans ses individus : ils sont capables de déchaîner des forces comparables à celle de la nature laissée à elle-même (les armées dévastent autant que les ouragans ou les volcans).
Les propriétés de structure émergent dans le domaine humain non par l'intermédiaire de la conscience mais par l'intermédiaire de lalangue : on peut convaincre quelqu'un de quelque chose avec des mots, soit immédiatement en face à face soit ailleurs dans le temps et dans l'espace (dans ce cas, nécessairement ultérieurement), par des textes écrits ou des paroles enregistrées. La langue est constituée de mots dont certains renvoient à des percepts (le système a été entièrement décomposé dans la théorie scolastique de la supposition - et dans la théorie du signe de Peirce), mais ceux-ci ne trouvent à s'exprimer qu'à l'intérieur d'un tissu verbal de pré-notions et de concepts théoriques organisés en système. C'est le fait d'être en tant que sujet humain (particule) partie d'un même champ langagier (culture, religion) qui autorise les phénomènes globaux de structure : un même discours partagé débouche sur la croisade des enfants, sur les armées levées par la « Patrie déclarée en danger », etc. Il suffit qu'existe comme base sous-jacente à cette cohérence, un noyau de croyance commun, constitué dans la petite enfance, où des signifiants-maîtres signalent les sommets d'un gradient d'affect (Jorion 1994 : 96-98).
Donc lorsque Penrose examine les phénomènes de type cohérence, il faudrait qu'il ne les envisage pas comme circonscrits à l'intérieur de l'individu, comme manifestation du psychologique, mais dans le monde social lui-même, dans le sociologique, dans les phénomènes de foules structurées dont a parlé Freud pour les armées et les églises (1921), et dont le ciment est de l'ordre de la langue. Ce qui constitue les armées, ce sont des mots : les commandements. Même la marche au pas a besoin du « Une ! Deux ! » pour se maintenir. Or ce qui constitue l'économie, c'est également le commandement au sens d'Adam Smith, à la fois la possibilité de commander des choses, de « passer commande », ce qui implique d'être en position de pouvoir faire des avances - au sens de Quesnay - (position qui s'inscrit dans un rapport de force particulier au sein de l'édifice social) et de commander aux hommes, c'est-à-dire de subordonner leur temps de travail au sien propre. Quand Hegel parle des grands hommes, il s'agit soit de ceux qui ont levé des armées, soit de ceux qui ont modifié une fois pour toutes la manière dont les mots sont liés entre eux.
Références
Althusser, Louis, Philosophie et philosophie spontanée des savants (1967), Paris: François Maspéro 1974
Dawson, John W., « The Reception of Gödel's Incompleteness Theorems », in S.G. Schanker (ed.), Gödel's Theorem in Focus, London: Croom Helm 1988: 74-95
Freud, Sigmund, « Psychologie des foules et analyse du Moi » (1921), in Essais de psychanalyse, Paris : Payot, 1962
Jorion, Paul, Principes des systèmes intelligents, Paris : Masson, 1990
Jorion, Paul, « L'intelligence artificielle : Au confluent des neurosciences et de l'informatique », Lekton, Vol 4, No 2, 1994: 85-114
Kauffman, Stuart A., The Origins of Order. Self-Organization and Selection in Evolution, Oxford: Oxford University Press, 1993
Kauffman, Stuart A., At Home in the Universe. The Search for the Laws of Self-Organization and Complexity, Oxford: Oxford University Press, 1995
Lacan, Jacques, Ecrits, Paris : Le Seuil, 1966
Lewis, David, Counterfactuals, Cambridge (Mass.) : Harvard University Press, 1973
Meyerson, Emile, Réel et déterminisme dans la physique quantique, Paris : Hermann, 1933
Peirce, Charles Sanders, « Questions concernant certaines facultés » [1868], Textes anticartésiens, Paris : Aubier 1984
Penrose, Roger, The Emperor's New Mind, Oxford: Oxford University Press, 1989
Penrose, Roger, Shadows of the Mind, Oxford: Oxford University Press, 1994