Des grilles et des rubansLes machines formelles d’Alan Turing

Jean Lassègue Autant que je sache, le terme information n’est guère utilisé par Turing (il emploie plutôt la notion technique de « weight of evidence » difficile à traduire, « mesure de confirmation » serait peut-être une solution). Il y a deux définitions concurrentes du concept d’information, celle de Claude Shannon ⁵5 Claude Shannon (1921-2001) est un ingénieur en génie électrique et mathématicien américain. Il est l’un des fondateurs de la théorie de l’information, qui permet de quantifier des informations en termes de probabilités. (1948) où l’information est définie comme transmission d’un signal dans le cadre d’une théorie statistique de la communication (plus l’apparition d’un signal est rare, plus il est informatif), et celle qu’en donne le mathématicien russe Andreï Kolmogorov dans les années 1960 où l’information est définie comme programmation dans le cadre de la théorie de la calculabilité fondée par Turing (l’information est alors la mesure de la complexité d’un programme : la description d’un objet par un programme est d’autant plus complexe qu’elle est riche en information). Ça, c’est pour l’aspect théorique… Mais, dans la langue courante (et c’est le sens du mot que Turing privilégie), ce n’est pas ainsi qu’on entend « information », plutôt lié à la notion de sens. Pour qu’une « information » fasse sens pour un humain, il est nécessaire de la spatialiser, de la représenter dans un espace (à deux dimensions dans le cas des interfaces graphiques). Le rapport à l’espace implique nécessairement la construction de formes qui se détachent d’un fond : c’est ainsi que se construit le sens, qui est avant tout géométrique et non linguistique et ne présuppose donc pas de signal, de code ou de message, comme l’a fait remarquer avec beaucoup de profondeur le mathématicien René Thom ⁶6 René Thom (1923-2002) est un mathématicien et épistémologue français, fondateur de la théorie des catastrophes.. En somme, signifier, c’est fondamentalement donner forme dans l’espace. 

Si on réfléchit dans cette direction, on pourrait alors considérer le ruban linéaire de la machine décrite par Turing en 1935 ; machine « de papier » disait-il parce qu’il s’agit d’une machine abstraite, mathématique qui n’a pas, dans un premier temps, de réalisation physique  ; comme la réduction extrême de l’espace à une interface graphique à une seule dimension, celle du papier sur lequel on inscrit des marques : il y a une case vide ou une case avec un trait — c’est tout. On ne peut pas faire plus simple ! En démultipliant les cases et les traits sur les cases, vous pouvez avoir toujours plus de complexité. Turing va même jusqu’à penser qu’il serait possible de simuler l’ingéniosité humaine en ajoutant de nouvelles cases au ruban.

En fait, entre l’information comme concept linguistique et le sens comme concept géométrique, il y a un abîme, celui de l’intelligibilité de l’espace. Le concept d’information n’est pas un concept spatial, mais linguistique et c’est la raison pour laquelle il est possible pour Turing de faire une séparation radicale dans la machine qui porte son nom entre le niveau du logiciel, le software (hors de tout espace) et le niveau matériel, le hardware (dans l’espace). En informatique, la portabilité du logiciel est capitale : c’est la capacité pour un programme d’être potentiellement exécutable sur n’importe quelle machine. Alors que votre machine et la mienne ne sont pas faites du même morceau de matière et n’occupent pas la même portion de l’espace, vous pouvez y faire tourner le même logiciel. Cela suppose un dualisme hardware/software qui est un tour de force extraordinaire, incroyablement fécond, dont nous vivons les effets tous les jours. Ce qui est étonnant historiquement, c’est que l’informatique soit née du fantasme propre à Turing, encore plus que chez Descartes ⁷7 Descartes postule l’idée d’un dualisme entre le corps et l’âme : « chacun de nous ainsi considéré est réellement distinct de toute autre substance qui pense, et de toute substance corporelle » (Principes de la philosophie, 1^re partie, §60, 1644)., d’une stricte séparation entre le corps et l’esprit, entre matériel et logiciel. 

JL Oui et non… En théorie, un être humain devrait être capable de suivre case après case l’exécution d’un programme. Seulement, il y a tellement de cases que vous êtes rapidement obligé de déléguer cette tâche à des logiciels capables de traduire ce que vous formulez logiquement en code susceptible d’être exécuté par une machine qui ne comprend rien… On peut prendre un exemple très simple : pour afficher des caractères latins, arabes ou chinois sur un écran, vous avez besoin d’une panoplie de programmes dits dédiés que vous ne voyez pas, que vous ne pouvez pas voir, et qu’aucun informaticien ne voit et qui transforment le signe porteur de sens en une marque sans sens uniquement traitable par un ordinateur. Vous avez beau être un as des langages de programmation, il n’empêche que vous vous situez à un niveau où, évidemment, vous ne programmez pas en binaire au niveau des cases de la machine de papier inventée par Turing ; cela n’aurait aucun sens. Ainsi, lorsqu’un utilisateur saisit du texte sur son clavier, les caractères alphanumériques 2D acquièrent une troisième dimension numérique, liée à l’encodage du signe en code binaire. Il y a une profondeur invisible qui fait que chaque caractère va se retrouver traduit par toutes sortes de couches techniques. Aujourd’hui tous les systèmes d’écriture, alphabétiques ou non, relèvent de ce modèle et c’est complètement nouveau dans l’histoire de l’écriture. Cela implique que vous perdez la maîtrise du processus graphique et vous vous retrouvez obligé de faire confiance aux algorithmes existants, aux développeurs qui ont rédigé l’assembleur, aux constructeurs de la machine, etc. À tous ces niveaux, on peut toujours supposer qu’il y a de la manipulation. Cette profondeur qui nous échappe, liée à la multiplication extraordinaire des couches de traductions, alimente probablement la paranoïa ambiante. 

JL Cette question, presque métaphysique, se pose depuis les années 1950. Turing l’envisage d’un point de vue très sociologique, en se demandant quel groupe humain pourrait prendre le contrôle de la programmation :

« Ceux qui travaillent en rapport avec [le calculateur] ACE  seront divisés en deux : ses maîtres et ses serviteurs. Ses maîtres prévoiront pour lui des tables d’instructions en cherchant toujours plus avant de nouveaux moyens de l’employer. Ses serviteurs le nourriront de cartes quand il le demandera. Ils répareront ce qui ne fonctionnera plus, ils réuniront les informations qu’il réclamera. En fait les serviteurs prendront la place des membres. Plus le temps passera et plus le calculateur prendra le contrôle des maîtres et des serviteurs. Les serviteurs seront remplacés par des membres mécaniques et électriques ainsi que les organes des sens. […]. Les maîtres sont susceptibles d’être remplacés, parce que dès qu’une technique devient un tant soit peu stéréotypée, il devient possible de concevoir un système de tables d’instructions qui rend capable le calculateur électronique de l’exécuter tout seul. Il se pourrait que les maîtres refusent de le faire. Ils seront peut-être réticents à ce que leur emploi leur soit volé de cette façon. Dans ce cas, ils entoureront tout leur travail de mystère et trouveront des excuses formulées dans un charabia bien choisi dès que des suggestions leur seraient proposées. Je crois que des réactions de ce type représentent un danger inévitable. Ce sujet amène naturellement la question de savoir jusqu’à quel point en principe une machine à calculer peut simuler les activités humaines ⁸8 Alan Turing, « Lecture on the Automatic Computing Engine », exposé à la London Mathematical Society, 20 février 1947, reproduit dans : B. Jack Copeland (dir.), The Essential Turing-Seminal Writings in Computing, Logic, Philosophy, Artificial Intelligence, New York, Oxford University Press, 2004, p. 378-394.. »

Ce qui est intéressant, c’est que Turing qualifie de « serviteurs » les utilisateurs et de « maîtres » les développeurs. Il fait aussi remarquer que ces développeurs eux-mêmes peuvent devenir des serviteurs. Dès qu’il y a du stéréotype, il y a de l’ordre et donc du programmable. C’est ce qu’étudie Turing dans son « jeu de l’imitation » (passé à la postérité sous l’appellation inexacte de « test de Turing ⁹9 Alan Turing, « Computing machinery and intelligence », Mind, Oxford, Oxford University Press, vol. 59, n^o 236,‎ octobre 1950, p. 433-460. Traduction française par Patrice Blanchard : « Les ordinateurs et l’intelligence », dans : Pensée et machine, Seyssel, Champ Vallon, 1983, p. 39-67. Réédité dans : La machine de Turing, op. cit., p. 135-175. ») dans son article de 1950, où il imagine une situation permettant à un être humain de déterminer par un dialogue à l’aveugle si son interlocuteur est, ou non, une machine. La réponse de Turing est ambiguë : explicitement, il dit qu’une machine pourrait remplacer un être humain, implicitement, il dit le contraire puisqu’un ordinateur est une machine déterministe alors que le monde matériel (comme le cerveau humain) n’est pas déterministe au sens de l’ordinateur et que Turing dit que la machine à état discret qu’est l’ordinateur n’est pas un modèle adéquat pour penser la croissance biologique. 

JL Votre exemple, The Grid , vise à produire une variété de formes à partir d’une base de données, sans doute gigantesque, en perpétuelle augmentation et transformation à partir de mécanismes dits d’« apprentissage profond » (deep learning) utilisant de grands jeux de données (big data. Mais cette promesse de variété comporte nécessairement une sorte de formatage ¹¹11 Bummykins, « Finally got to see thegrid.io sites. I think your jobs are safe. », Reddit.com, mars 2016, http://b-o.fr/bummykins. Cela me rappelle la cybernétique des années 1950, qui avait pour ambition de modéliser et de piloter l’esprit humain. Depuis une trentaine d’années, on en était sorti, car on avait pris conscience que la société humaine était plus compliquée et qu’elle était en fait constituée d’une multitude d’interactions qui ne seront jamais simulables par du code informatique. J’ai l’impression qu’on revient à ce genre d’archaïsme qui a tendance à réduire le monde dans lequel nous vivons à une sémiotique simplissime. Si l’on regarde l’identité visuelle de The Grid, on retrouve d’ailleurs une imagerie du spatial comportant des représentations de cosmonautes, caractéristique des années de la cybernétique. C’est amusant parce que la conquête spatiale, la spatialité, relève ici de l’étendue cartésienne, avec ses coordonnées géométriques simples et calculables. Ce genre de service montrera sans doute vite ses limites.

JL Ça dépend d’où on voit les choses… On peut être surpris par le résultat d’un programme, mais le programme lui-même n’a rien d’aléatoire, il est déterministe et il a été fait pour ça ! De l’aléatoire véritable, c’est très difficile à conceptualiser et à part les spins des particules étudiés par le CERN à Genève, il n’y pas de programme qui produise un aléatoire du même type. Dans un programme, tout ce qui est réellement aléatoire est considéré comme du bruit parasite, alors que c’est le bruit qui provoque de la différence et permet l’émergence du sens. Selon moi, ces surprises ne sont sans doute pas à chercher dans la machine elle-même, mais dans son interaction avec l’humain, et dans l’interprétation qu’il en fait. Ce que Turing réussit à comprendre à la fin de sa vie, c’est que cette surprise n’a rien de psychologique et qu’elle a des raisons théoriques très profondes qui viennent de ce que la nature elle-même n’est pas déterministe comme l’est un programme. C’est la raison pour laquelle Turing s’est intéressé à la fin de sa vie à l’émergence des formes biologiques, la morphogénèse , qui est un phénomène qui se produit à la frontière avec le chaos. Il écrivait d’ailleurs : 

« Le système nerveux n’est certainement pas une machine à état discret. Une petite erreur à propos de l’information concernant la taille de l’impulsion nerveuse s’exerçant sur un neurone peut faire une grande différence quant à l’impulsion qui en sort. On peut objecter que, cela étant, on ne peut pas s’attendre à imiter le comportement du système nerveux avec un système à état discret. Il est vrai que la machine à état discret doit être différente d’une machine continue ¹⁴14 Alan Turing, « Computing machinery and intelligence », op. cit., p. 451.. » 

D’ailleurs, s’il fallait retenir une idée chez Turing, c’est qu’incalculable et calculable sont comme les deux faces d’une même médaille : il a ainsi démontré par le calcul que celui-ci avait une limitation interne et que définir la calculabilité consistait non pas à supposer un au-delà du calcul, mais au contraire, en s’en tenant strictement au cadre du calcul (c’est-à-dire à la « machine de Turing »), à montrer par un raisonnement par l’absurde qu’il y a bien quelque chose qui échappe au calcul. On peut ainsi montrer qu’il y a des limites à la calculabilité ; c’est capital pour définir scientifiquement un domaine spécifique. 

JL Je trouve dommage de parler de « langages de programmation », au pluriel, parce que selon moi il n’y en a qu’un seul : il y a le langage de la programmation qui se fonde sur une certaine classe de fonctions mathématiques, les fonctions dites « calculables » et ensuite il y a « des » langues, c’est-à-dire différentes façons de présenter et d’exploiter les ressources expressives du langage en question. Mais évidemment, on ne réforme pas la langue et l’expression « langages de programmation » au pluriel est maintenant une évidence pour tous. Ce qu’il y a d’extraordinaire, c’est que toutes ces « langues » ont la même capacité de calcul ¹⁵15 Pour peu que ce dernier soit « Turing-complet », c’est-à-dire capable de représenter toutes les fonctions calculables (récursives) pouvant être modélisées sous la forme d’une machine de Turing. d’un point de vue mathématique, et qu’on en a pourtant inventé des milliers ! On se retrouve dans une situation ; qui me semble, linguistiquement, très intéressante — où il y a, à la fois, une unité du langage informatique et une diversification croissante de ce qu’il faudrait appeler des « langues de programmation ». C’est exactement ce que l’on rencontre dans l’histoire de l’humanité : vous avez le langage et de multiples langues qui n’arrêtent pas de surgir, de se complexifier : on ne parle pas de la même façon partout parce que ce que les sociologues appellent « la division du travail » est de plus en plus poussée. Prenez par exemple la communauté des statisticiens : ils ont besoin de faire des moyennes et il leur faut donc une langue de programmation dans laquelle il y a une commande qui permet de faire des moyennes sans avoir à réécrire les lignes de programme qui permettent de faire ce calcul. Mais si vous êtes un designer de pages Web, vous n’avez pas besoin d’une commande pour faire des moyennes, en revanche vous avez besoin d’une commande pour construire des balises et vous avez donc besoin d’une langue qui soit adaptée à vos besoins. L’analogie avec les langues naturelles s’arrête là parce que, contrairement aux « langages » de programmation qui sont tous univoques dans le domaine spécifique qui est le leur, les langues naturelles sont polysémiques et n’arrêtent pas de se transformer… Il est donc particulièrement difficile de concevoir une analyse informatique des langues naturelles parce que ce sont précisément des formes, et qu’en tant que formes, elles modifient leurs propres conditions de production, ce que ne font pas les langages de programmation.

Je prends un exemple. Dans Eugénie Grandet de Balzac (1833), on peut lire la phrase suivante : 

« L’ancien tonnelier rongé d’ambition cherchait, disaient-ils, pour gendre quelque pair de France, à qui trois cent mille livres de rente feraient accepter tous les tonneaux passés, présents et futurs des Grandet ¹⁶16 Honoré de Balzac, Eugénie Grandet. Scènes de la vie de Province [1833], dans : Œuvres complètes, tome 5, Paris, Alexandre Houssiaux, 1855, p. 215.. »

Ici « tonneaux » veut dire quelque chose comme « ce qui produit la richesse », mais ça, vous ne le trouvez pas dans un dictionnaire et pourtant ça ne nous pose aucun problème, on comprend tout de suite sans qu’on ait besoin d’imaginer une traduction de « tonneaux » en « producteur de richesse ». La « richesse » est là, entièrement contenue dans le « tonneau »… La façon dont la langue métaphorise son matériau est telle qu’une approche « dictionnairique » du lexique ne sera jamais suffisante pour rendre compte de l’intelligibilité de la langue parce que la transformation de son mode de production est son moteur même. Quand vous utilisez des mots, vous faites en même temps quelque chose aux mots que vous utilisez et vous transformez le sens du mot en question. « Tonneau » a-t-il exactement le même sens après la phrase de Balzac dans Eugénie Grandet ? Je n’en suis pas sûr. C’est impossible à traduire en langages formels parce que « tonneau » n’a jamais signifié « fortune » en français, et restera cependant comme une harmonique possible attachée au mot. Comment une machine pourrait-elle comprendre cela ?

Entretien réalisé par Kévin Donnot et Anthony Masure à Paris, le 11 juillet 2017.