L'« intelligence artificielle » dans notre culture

L'« intelligence artificielle » se présente simultanément à l'intellect comme un existant, comme un possible et comme un imaginaire¹. Or ce que l'on imagine n'est pas nécessairement possible et il n'est pas certain que ce qui est possible puisse exister un jour.

Le concept de l'« intelligence artificielle » fusionne par ailleurs « intelligence » et « artifice » (ce dernier mot désignant ici l'« informatique » ou l'« ordinateur ») et comme tout concept hybride celui-ci doit être examiné pour s'assurer qu'il ne s'agit pas d'une chimère comme le griffon dont la tête d'oiseau est entée sur le corps d'un lion, ou comme Pégase, le cheval ailé de la mythologie.

Le fait est que l'informatique accroît la portée de l'intelligence et de l'action humaines tout comme l'a fait bien avant elle la notation écrite de la parole, des nombres, de la musique et des mathématiques : l'ordinateur exécute des calculs et déclenche des actions avec une rapidité dont l'être humain est incapable. « Intelligence artificielle » n'est de ce point de vue rien d'autre qu'une expression quelque peu prétentieuse pour désigner l'informatique.

Le pilote automatique d'un avion de ligne reçoit les signaux des capteurs et manipule les ailerons afin de maintenir l'avion dans la position qui économise le carburant, action qui pour un pilote humain serait aussi difficile que de maintenir une assiette en équilibre sur la pointe d'une épingle : c'est un bon exemple de l'élargissement du possible qu'apporte l'informatique.

Alan Turing a cependant énoncé une autre ambition² : concevoir une « machine qui pense » de telle sorte que l'on ne puisse pas distinguer ses résultats de ceux de la pensée d'un être humain. Or si l'on peut dire qu'un programme informatique « pense », puisqu'il traite les données qu'il ingère pour produire des résultats, il est évident qu'il ne pense pas comme nous. Avec les systèmes experts les informaticiens ont tenté de reproduire la façon dont nous raisonnons en suivant des règles³, mais ils ont rencontré des difficultés car nos règles changent avec la conjoncture et en outre certaines sont implicites.

80 morts la semaine dernière

L'attentat de Manchester a fait 22 victimes. De nombreux hommages leur sont rendus, l'émotion est forte, la télévision nous montre le chagrin de leurs parents et amis.

La semaine dernière les accidents de la circulation ont tué de l'ordre de 80 personnes en France (4 000 morts par an, cela fait 80 par semaine). Aucun hommage ne leur est rendu et personne n'est ému – sauf bien sûr les parents et amis des victimes, mais leur chagrin n'intéresse pas les médias.

Notre voiture est beaucoup plus dangereuse que le terrorisme. Qui le dit ? Qui le sait ?

Le 18 brumaire d'Emmanuel Macron

Lors du 18 brumaire An VIII (9 novembre 1799) les soldats de Bonaparte ont chassé les députés de l'assemblée baïonnette au canon. Karl Marx verra dans le coup d'Etat du 2 décembre 1851 « le 18 brumaire de Louis Bonaparte ».

En 2017 il ne s'agit pas d'un coup d'Etat : l'élection du 7 mai a certes été gagnée à la hussarde, mais de façon régulière. Les partis, qui sont moins des lieux de réflexion que des associations de compétition et d'entraide en vue de la notoriété et des places, en restent baba.

Point de baïonnettes, point de répression comme en 1851, et pourtant cette élection pourrait être l'équivalent d'un 18 brumaire car elle semble annoncer une transformation des institutions aussi profonde que celles du Consulat et du Second Empire.

Cette annonce sera-t-elle suivie d'effet ? Nous n'en savons rien et seul l'événement nous l'apprendra. Voici cependant deux pistes qui se présentent à la réflexion.

Turing a-t-il perdu son pari ?

Le « pari de Turing » est souvent évoqué par ceux qui estiment qu'il n'existera bientôt plus de différence perceptible entre l'intelligence de l'ordinateur et celle de l'être humain, dont le cerveau sera alors supplanté par la « machine » car elle est plus rapide et plus fiable que lui. Ils s'appuient ainsi sur un article que peu de personnes ont lu attentivement. Nous reprenons ici l'étude qui se trouve dans De l'informatique, p. 90.

*     *

Dans un article de 1950 qui a eu une immense influence¹ Alan Turing a soutenu qu'il était possible de concevoir une expérience montrant que l'intelligence de l'ordinateur ne pouvait pas être distinguée de celle d'un être humain. Le « pari de Turing » a éveillé l'ambition de l'intelligence artificielle.

Pour répondre à la question « est-ce que les machines peuvent penser ? » il faut bien sûr pouvoir faire abstraction de l'apparence physique. Turing propose donc un « jeu de l'imitation » qu'il définit ainsi :

« Le jeu de l'imitation se joue à trois personne, un homme (A), une femme (B) et un interrogateur (C) qui peut être de l'un ou l'autre des deux sexes. L'interrogateur se trouve dans une pièce séparée des deux autres. Le but du jeu est pour l'interrogateur de deviner lequel de ses deux interlocuteurs est un homme et lequel est une femme. Il les désigne par les matricules X et Y ; à l'issue du jeu il dit soit "X est A et Y est B", soit "X est B et Y est A". Il peut poser des questions à A et B (...) Maintenant nous nous demandons "Que peut-il arriver si l'on fait tenir par une machine le rôle de A dans ce jeu ?" Est-ce que l'interrogateur se trompera aussi souvent que lorsque la partie se joue entre un homme et une femme ? Ces questions remplacent notre question initiale, "Des machines peuvent-elles penser?" (...) Je crois que dans cinquante ans environ il sera possible de programmer des ordinateurs ayant une mémoire de l'ordre de 10⁹ de telle sorte qu'ils jouent tellement bien au jeu de l'imitation qu'un interrogateur moyen n'aura pas plus de 70 chances sur cent de les identifier de façon exacte après les avoir questionnés pendant cinq minutes. (...) La seule façon satisfaisante de prouver cela, c'est d'attendre la fin du siècle et de faire l'expérience que je viens de décrire. »

Pour comprendre la nature du test de Turing, il faut réfléchir un instant à son énoncé. Si la différence entre A et B est évidente, l'interrogateur ne se trompera jamais : la probabilité qu'il ne fasse pas d'erreur est donc égale à 1. Si la différence entre A et B est insensible, l'interrogateur se trompera une fois sur deux (il faut supposer qu'en cas de doute il tire sa réponse à pile ou face) : la probabilité qu'il ne fasse pas d'erreur est alors égale à 0,5. Le test peut donc être caractérisé par la fréquence des résultats exacts, qui appartient à l'intervalle [0,5 , 1].

Turing ne dit pas que le test sera réussi si cette fréquence est de 0,5, valeur qui correspond au cas où l'on ne pourrait absolument pas distinguer l'ordinateur de l'être humain : il dit que le test sera réussi si cette fréquence est comprise dans l'intervalle [0,5 , 0,7], c'est-à-dire si l'interrogateur a confondu l'ordinateur avec un être humain dans au moins 30 % des cas.

Echelle du pari de Turing

Ce test est peu exigeant : il ne dure pas plus de cinq minutes et le seuil d'efficacité est modeste. Il est donc audacieux de prétendre qu'une telle expérience, si elle réussissait, autoriserait à affirmer que des machines puissent penser.

L'iconomie et l'entreprise « libérée »

Les travaux sur l'iconomie ont fait apparaître la nécessité d'un « commerce de la considération » et précisé les exigences qui s'imposent à l'entreprise libérée :

• la considération est le respect en action. Elle se définit ainsi : « écouter celui qui parle en faisant un effort sincère pour comprendre ce qu'il veut dire » ;
• le commerce de la considération est un échange équilibré : on amorce ce commerce en offrant sa considération, on le rompt si l'on ne reçoit pas en retour une considération équivalente ;
• l'automatisation des tâches répétitives fait que l'emploi est passé de la main d'oeuvre au cerveau d'oeuvre, auquel l'entreprise confère un droit à l'initiative et délègue des responsabilités ;
• l'emploi du cerveau d'oeuvre nécessite que l'entreprise reconnaisse et cultive la compétence de ses agents ;
• la délégation de responsabilité n'est supportable pour un agent que si elle est accompagnée de la délégation d'une légitimité (droit à l'erreur, droit à l'écoute) bien proportionnée à sa responsabilité ;
• un cerveau humain ne peut d'ailleurs fonctionner que s'il sait pouvoir se faire entendre : il s'éteindra bientôt chez un concepteur dont les avis et alertes ne sont pas entendus, chez un agent de la première ligne dont les comptes rendus tombent dans le vide ;
• la légitimité cesse donc d'être le monopole des managers et dirigeants : la relation hiérarchique, qui sacralise la fonction de commandement, est remplacée par une animation.

*     *