Turing a-t-il perdu son pari ?

Le « pari de Turing » est souvent évoqué par ceux qui estiment qu'il n'existera bientôt plus de différence perceptible entre l'intelligence de l'ordinateur et celle de l'être humain, dont le cerveau sera alors supplanté par la « machine » car elle est plus rapide et plus fiable que lui. Ils s'appuient ainsi sur un article que peu de personnes ont lu attentivement. Nous reprenons ici l'étude qui se trouve dans De l'informatique, p. 90.

*     *

Dans un article de 1950 qui a eu une immense influence¹ Alan Turing a soutenu qu'il était possible de concevoir une expérience montrant que l'intelligence de l'ordinateur ne pouvait pas être distinguée de celle d'un être humain. Le « pari de Turing » a éveillé l'ambition de l'intelligence artificielle.

Pour répondre à la question « est-ce que les machines peuvent penser ? » il faut bien sûr pouvoir faire abstraction de l'apparence physique. Turing propose donc un « jeu de l'imitation » qu'il définit ainsi :

« Le jeu de l'imitation se joue à trois personne, un homme (A), une femme (B) et un interrogateur (C) qui peut être de l'un ou l'autre des deux sexes. L'interrogateur se trouve dans une pièce séparée des deux autres. Le but du jeu est pour l'interrogateur de deviner lequel de ses deux interlocuteurs est un homme et lequel est une femme. Il les désigne par les matricules X et Y ; à l'issue du jeu il dit soit "X est A et Y est B", soit "X est B et Y est A". Il peut poser des questions à A et B (...) Maintenant nous nous demandons "Que peut-il arriver si l'on fait tenir par une machine le rôle de A dans ce jeu ?" Est-ce que l'interrogateur se trompera aussi souvent que lorsque la partie se joue entre un homme et une femme ? Ces questions remplacent notre question initiale, "Des machines peuvent-elles penser?" (...) Je crois que dans cinquante ans environ il sera possible de programmer des ordinateurs ayant une mémoire de l'ordre de 10⁹ de telle sorte qu'ils jouent tellement bien au jeu de l'imitation qu'un interrogateur moyen n'aura pas plus de 70 chances sur cent de les identifier de façon exacte après les avoir questionnés pendant cinq minutes. (...) La seule façon satisfaisante de prouver cela, c'est d'attendre la fin du siècle et de faire l'expérience que je viens de décrire. »

Pour comprendre la nature du test de Turing, il faut réfléchir un instant à son énoncé. Si la différence entre A et B est évidente, l'interrogateur ne se trompera jamais : la probabilité qu'il ne fasse pas d'erreur est donc égale à 1. Si la différence entre A et B est insensible, l'interrogateur se trompera une fois sur deux (il faut supposer qu'en cas de doute il tire sa réponse à pile ou face) : la probabilité qu'il ne fasse pas d'erreur est alors égale à 0,5. Le test peut donc être caractérisé par la fréquence des résultats exacts, qui appartient à l'intervalle [0,5 , 1].

Turing ne dit pas que le test sera réussi si cette fréquence est de 0,5, valeur qui correspond au cas où l'on ne pourrait absolument pas distinguer l'ordinateur de l'être humain : il dit que le test sera réussi si cette fréquence est comprise dans l'intervalle [0,5 , 0,7], c'est-à-dire si l'interrogateur a confondu l'ordinateur avec un être humain dans au moins 30 % des cas.

Echelle du pari de Turing

Ce test est peu exigeant : il ne dure pas plus de cinq minutes et le seuil d'efficacité est modeste. Il est donc audacieux de prétendre qu'une telle expérience, si elle réussissait, autoriserait à affirmer que des machines puissent penser.

Quoi qu'il en soit, Turing a formulé à la fois un pari et le test qui permet de le vérifier. Nous pouvons faire le test, puisque la fin du siècle est passée. Certes l'ordinateur s'est révélé redoutable au jeu d'échecs ; mais dans un travail aussi « simple » que la traduction d'un texte littéraire il fournit un résultat tellement médiocre que l'examinateur moyen le distinguera immédiatement d'un traducteur humain. Si nous prenons Turing au mot, nous pouvons donc dire qu'il a perdu son pari. Mais ce serait là une réfutation peu satisfaisante : quelqu'un d'autre pourrait prendre la relève et parier de nouveau en fixant comme échéance la fin du XXIe siècle ou celle du troisième millénaire, ce qui laisserait la question en suspens pendant un long délai.

La meilleure réfutation de Turing s'appuie sur la définition de l'ordinateur qu'il donne lui-même :

« On peut expliquer l'idée qui se trouve derrière les ordinateurs en disant qu'ils sont conçus pour réaliser toutes les opérations qui pourraient être faites par un calculateur humain. Le calculateur humain est supposé suivre des règles fixes ; il n'a pas le droit de s'en écarter le moins du monde. Nous pouvons supposer que ces règles lui sont fournies dans un livre qui sera modifié chaque fois qu'on veut lui faire faire un nouveau travail. Il dispose pour faire ses calculs d'une quantité illimitée de papier. Il peut aussi faire ses additions et multiplications sur une machine à calculer, mais c'est sans importance. Le livre de règles qu'utilise notre calculateur humain est évidemment une fiction commode : en fait, les vrais calculateurs humains se rappellent ce qu'ils ont à faire. Si on veut faire imiter par une machine le comportement d'un calculateur humain, on n'a qu'à demander à celui-ci comment il fait, puis traduire sa réponse en une table d'instructions. Construire une table d'instruction, c'est ce que l'on appelle "programmer". "Programmer une machine pour réaliser l'opération A" équivaut à introduire dans la machine la table d'instructions qui convient pour qu'elle réalise A. »

Si Turing définit ainsi l'ordinateur, puis affirme par ailleurs qu'il sera difficile de distinguer au « jeu de l'imitation » un ordinateur d'un être humain, cela implique qu'il sera tout aussi difficile de distinguer un calculateur humain, assujetti au respect de règles fixes consignées dans un cahier, d'un être humain ordinaire qui, n'étant pas assujetti à de telles règles, est libre de prendre des initiatives et de s'adapter à l'imprévu.

Il s'agit donc finalement de savoir si l'on suppose l'imprévu négligeable ou non. Il est possible de rédiger le cahier de règles de telle sorte que le calculateur dispose de consignes lui permettant de faire face à une grande diversité de situations (c'est ainsi que l'ordinateur joue aux échecs), mais la liste des situations que décrit le programme est nécessairement finie alors que l'imprévu potentiel que comporte le rapport d'un être humain avec le monde de la nature est illimité : l'être humain « se débrouille » lorsqu'il rencontre un imprévu, là même où l'ordinateur (ou son équivalent le calculateur humain, pur exécutant) ne disposerait pas de règles et ne saurait donc que faire : c'est ce type de difficulté que l'ordinateur rencontre en traduction automatique.

C'est le sens de la réfutation de Turing par Popper² dans Objective knowledge (Oxford University Press, 1979) :

« Turing a affirmé qu'il était impossible, par principe, de distinguer les hommes des ordinateurs à partir de leurs activités observables (leurs comportements), et il a défié ses adversaires de spécifier une activité ou un comportement humain observable quelconque qu'un ordinateur serait, par principe, incapable de réaliser. Mais ce défi est un piège intellectuel : spécifier un type de comportement reviendrait à établir une spécification pour la construction d'un ordinateur. En outre, si nous utilisons et construisons des ordinateurs, c'est parce qu'ils sont capables de faire beaucoup de choses que nous ne savons pas faire, tout comme je me sers d'un crayon ou d'un stylo pour calculer une addition que je suis incapable de faire de tête. "Mon stylo est plus intelligent que moi", disait souvent Einstein. Mais ceci ne prouve pas qu'il soit impossible de le distinguer de son stylo. »

Turing fut un génie et aussi un être humain dont les souffrances suscitent la compassion³. Il a contribué à la naissance de l'informatique, bouleversement dont nous n'avons pas fini d'explorer les conséquences. Il est compréhensible que le témoin d'un événement d'une telle importance ait eu du mal à en circonscrire la portée. Constatant la rapide croissance des possibilités de l'ordinateur, Turing a extrapolé, et il s'est trompé.
____
¹ Alan Turing, « Computing machinery and intelligence », Mind, 1950.
² Popper, comme d'autres commentateurs, pousse à l'extrême la formulation du test de Turing qui est comme nous l'avons vu modeste. Mais ce n'est que justice puisque Turing a prétendu que la réussite de ce test permettrait d'affirmer que les machines « pensent ».
³ Homosexuel, Alan Turing (1912-1954) fut comme Oscar Wilde (1854-1900) une victime du système judiciaire britannique. Il s'est très vraisemblablement suicidé (Andrew Hodges, Alan Turing: The Enigma, Walker & Company, 2000).