ChatGPT : quelle relation entre la pensée et l’informatique ?

(Ce texte a été publié le 21 septembre 2023 dans Variances, revue des anciens élèves de l’ENSAE.)

L’arrivée de l’intelligence artificielle générative stupéfie l’opinion¹.

Ce type de phénomène se produit souvent lorsque l’informatique franchit une étape : une nouveauté surgit (micro-ordinateur, traitement de texte, tableur, messagerie, Web, smartphone, etc.), elle stupéfie d’abord puis, après un délai, on aura appris à en tirer partie, on s’y habitue et elle se trouve finalement classée parmi les banalités.

Tandis que l’informatisation transforme progressivement la vie quotidienne, l’action productive et le fonctionnement de la pensée elle-même, la répétition des à-coups « nouveauté→ stupéfaction → banalité », devenue elle-même banale, empêche de concevoir la nature et la profondeur du phénomène.

Aujourd’hui les performances de ChatGPT étonnent. L’ordinateur aurait enfin réussi le test de Turing² : il serait donc intelligent ! Et on s’inquiète...

Cela nous donne l’occasion de tenter d’y voir plus clair en dépliant quelques dialectiques : fusionnant dans l’action des êtres de nature différente, elles animent des hybridations fécondes.

*     *

On savait l’ordinateur plus rapide que le cerveau humain et sa mémoire plus fidèle. Voilà qu’il sait écrire comme nous, mieux que nous, en une langue formellement correcte, et répond à nos questions de façon plausible. Est-il donc plus intelligent que nous ? Sommes-nous au bord de la « singularité » qu’a prédite Ray Kurzweil³, date après laquelle il faudra confier à l’ordinateur les pouvoirs exécutif, législatif et judiciaire parce qu’il saura les exercer mieux que nous autres, les êtres humains ?

Si ChatGPT nous surprend, c’est parce que nous n’avons pas réfléchi assez à la révolution qu’apporte l’informatique. La plupart des personnes ont le point de vue de l’utilisateur pour qui tout est simple dès qu’il en a pris l’habitude : les personnes que l’on voit pianoter des SMS dans le métro ignorent que le smartphone a informatisé leur corps en conférant l’ubiquité à une ressource informatique de logiciels et de documents.

L’informatisation a transformé aussi l’organisation des entreprises, les processus et procédures de la production, la nature des produits. Les tâches répétitives ayant vocation à être automatisées, la main d’œuvre est remplacée par le cerveau d’œuvre, être hybride qui résulte de la symbiose de l’humain et de l’automate⁴. L’entreprise lui délègue des responsabilités, elle lui demande de savoir prendre des initiatives : il en est résulté une transformation des procédures de l’action productive ainsi que de la sociologie des pouvoirs et légitimités.

Le système d’information est lui-même un être hybride résultant la symbiose de la ressource informatique et de la culture de l’entreprise (valeurs, compétences, sociologie, etc.) afin d’atteindre la synergie des cerveaux d’œuvre et la cohérence de l’action productive au service de la stratégie.

On ne travaille plus de la même façon, on n’agit plus de la même façon, donc on ne pense plus de la même façon⁵ : que le potentiel qui en résulte soit souvent ignoré par des organisations inadéquates altère ses effets sans réduire sa puissance.

Comment situer ChatGPT dans ce paysage bouleversé ? C’est un outil informatique et il produit des textes qui répondent à nos questions : cela nous invite à approfondir la relation entre notre pensée et l’informatique. Il nous faudra emprunter un chemin de crête périlleux mais cela vaut mieux que de dévaler vers l’une ou l’autre des vallées qu’il sépare.

*     *

La symbiose de l’ordinateur et du cerveau humain a des précédents : ce cerveau a depuis longtemps assimilé des symbioses avec la cité, l’écriture, la machine, etc. Sa réussite, comme celle des précédentes, nécessite un art qui sache tirer parti de l’un et de l’autre des êtres qu’elle fusionne.

Le cerveau humain est doté de valeurs, désirs et intentions qui lui indiquent des priorités et orientent son action, mais sa mémoire est capricieuse, il calcule lentement et il est sujet à la fatigue. L’ordinateur n'a ni valeurs, ni désirs, ni intentions, mais il calcule très vite, sa mémoire est parfaite et il est infatigable : il est fait pour exécuter inlassablement les tâches répétitives et prévisibles, donc automatisables, moyennant le programme dont il a été doté.

Or il existe des automatismes dans notre pensée. Obéir aux règles de la syntaxe et de l’orthographe, se remémorer des références, citations, faits, dates et raisonnements, cela se fait tout seul et automatiquement – du moins en principe, car il arrive que cet automate naturel puisse avoir des ratés.

L’informatique offre un automate programmable qui fonctionne sans ratés, tout comme la mécanique propose des machines qui exécutent impeccablement et de façon répétitive une même opération physique : dans l’industrie mécanisée la production est en fait la reproduction d’un prototype à l’identique et en nombre. L’automate informatique assiste aussi les opérations mentales et, associé à la mécanique, procure à l’action productive des robots infatigables.

Cet automate manifeste par ailleurs des capacités qui semblent magiques : les mots que contiennent les instructions d’un programme provoquent en effet réellement, comme étaient censés le faire « Abracadabra » et « Sésame, ouvre toi ! », des actions dans le monde des objets qui ont une masse et un volume.

Le pilote automatique, par exemple, maintient un avion de ligne dans la position instable qui permet d’économiser le carburant : pour un pilote humain ce serait aussi difficile que de maintenir une assiette en équilibre sur la pointe d’une épingle.

En outre les programmes sont exécutés avec une vitesse qui contraste avec nos habitudes. Supposons que vous vous délassiez de temps à autre en exécutant des Sudokus dont la solution demande une vingtaine de minutes, et que vous décidiez d’écrire un programme informatique pour les résoudre. L’ordinateur vous fournira les solutions en une fraction de seconde... On dirait qu’il est plus « intelligent » que vous, et pourtant c’est vous qui avez déposé votre intelligence dans son programme : c’est que la puissance du processeur a été mise au service de votre programme. Nous pourrions allonger la liste des exemples.

La somnolence intellectuelle que provoque la banalité apparente de la vie quotidienne masque un fait bouleversant : l’automate programmable, fait pour automatiser tout ce qui est répétitif, possède grâce à la puissance du processeur une rapidité qui confine à l’instantané. Il apporte ainsi à la pensée et à l’action humaines un tel élargissement du possible qu’il semble pouvoir réaliser certaines des promesses anciennes de la magie.

Lorsque nous le constatons comme aujourd’hui avec ChatGPT nous sommes stupéfaits et inquiets : comment tirer parti du nouveau monde de possibilités qui vient de s’ouvrir ? Comment éviter qu’il ne comporte des effets pervers ? Comment l’insérer dans notre vie, dans l’organisation de nos institutions ? Comment sortir enfin de notre ébahissement ?

Nous avons tous expérimenté ce nouvel outil. Si on lui demande, comme l’a fait par exemple Nicolas Curien⁶, de composer une fable dans le style de La Fontaine sur la base des mots « moto » et « avion », il fournira dans la seconde un texte dont la forme est bien celle d’une fable de La Fontaine mais dont le contenu est d’une extrême fadeur, semblable à ce qu’aurait pu écrire (beaucoup plus lentement, certes) un « bon élève » dépourvu de sensibilité.

Une « science du prompt » se développe pour que l’intelligence humaine puisse tirer parti de ChatGPT en évitant autant que possible les erreurs que masque dangereusement la correction formelle des textes qu’il produit. Comme naguère avec le traitement de texte, le tableur, le logiciel graphique, le Web, les utilisateurs sont invités à acquérir le savoir-faire nécessaire.

On peut tenter d’améliorer la fable en mettant en œuvre la science du prompt, mais si cette science se révèle efficace quand on demande à ChatGPT de répondre à une question scientifique ou technique, elle est incapable de lui permettre de simuler la puissance suggestive du langage d’un vrai poète car ce langage, essentiellement allusif, fait naître dans l’esprit du lecteur des images qui éveillent sa sensibilité. Deux vers : Un jour, sur ses longs pieds, allait, je ne sais où, / Le héron au long bec emmanché d'un long cou⁷, suggèrent irrésistiblement la démarche dégingandée et la silhouette de l’oiseau.

L’intelligence artificielle, telle qu’on la définit aujourd’hui, met en évidence les corrélations enfouies dans des données : cette informatisation de la statistique fournit des résultats impressionnants, par exemple ceux de la reconnaissance d’images. Cependant les corrélations, étant des symptômes, peuvent suggérer un diagnostic mais non l’expliquer car l’explication suppose une causalité que la corrélation ne comporte pas.

L’intellect de l’automate, si l’on peut dire, est borné par les concepts et calculs que comporte son programme tandis que le cerveau humain est plongé dans l’Existant⁸, monde des choses et des êtres dans lequel s’inscrit une « situation » particulière dont la complexité outrepasse, comme celle de l’Existant lui-même, tout ce que peut délimiter une grille conceptuelle.

Pour voir de quoi il s’agit, considérons ce qui se passe lors d’une conversation entre deux personnes. Le langage de la conversation n’est ni celui de la programmation informatique, ni celui des concepts et inférences de la théorie : il est essentiellement allusif et symbolique, chaque mot étant entouré de connotations qui permettent de se comprendre « à demi-mot », de deviner ou sentir « ce qu’a voulu dire » l’interlocuteur sans qu’il ait à l’expliciter.

C’est ainsi que peuvent être partagées des intentions, des intuitions, des orientations. Certes un tel échange peut comporter des contresens, il en comporte même souvent, mais il serait insupportable – et donc inefficace – de le contraindre à une stricte rigueur conceptuelle car un tel formalisme serait une entrave à la compréhension.

La pensée qui s’exerce dans une activité professionnelle est d’abord rationnelle : elle s’appuie sur le modèle théorique acquis lors d’une formation et qui apporte une grille conceptuelle et des causalités. La grille conceptuelle permet de schématiser la situation et d’identifier les outils de l’action, les causalités permettent d’anticiper les résultats de l’action. Les outils de la profession et les gestes techniques sont définis par des mots que n’entoure aucune connotation (que l’on pense au scalpel et autres outils du chirurgien).

Se former à la conduite automobile procure par exemple les concepts qui délimitent la vision du conducteur en sélectionnant les éléments nécessaires (tracé de la voie, signaux, obstacles, etc.) et en éliminant ceux qui pourraient le distraire, ainsi que les concepts qui identifient les outils proposés à son action (volant, freins, accélérateurs, levier du changement de vitesse) et les causalités qui lui permettent d’anticiper les effets de leur manipulation.

Ce modèle rationnel, que nous mettons en œuvre de façon instinctive, est efficace mais il est étroit car la complexité de l’Existant, et même celle de la situation, déborde le cadre conceptuel d’une action spéciale : celle-ci, définie dans le « petit monde » rationnel, peut avoir dans l’Existant des effets que le modèle rationnel ne permet pas d’anticiper.

Les personnes qui le savent tirent certes parti de l’efficacité de la pensée rationnelle, mais elles l’associent à une « pensée raisonnable » qui associe à la rationalité une conscience de ses limites et une vigilance attentive aux phénomènes que l’Existant peut produire en dehors de ces limites.

Ainsi la pensée raisonnable englobe et dépasse la pensée rationnelle, qu’elle insère dans l’Existant. Elle s’appuie sur les armes imprécises, mais puissantes, de la sensibilité et de l’intuition, éveillées par les émotions qui traversent le corps, par les décharges hormonales ou électriques qui signalent un danger, une idée potentiellement féconde, et permettent aussi de « comprendre à demi-mot ce qu’a voulu dire quelqu’un ».

Dans une entreprise l’action productive se manifeste par ailleurs sous deux formes :
- l’action à effet différé consacrée à la conception du produit, l’organisation de la production et la programmation des automates, dont l’accumulation constitue un capital ;
- l’action à effet immédiat qui assure l’élaboration du produit dans les ateliers ou dans la relation de service avec les clients.

L’automatisation de la production entraîne une réduction de l’emploi dans les ateliers, l’essentiel du travail répétitif étant désormais réalisé par des robots. En contrepartie le travail de conception, organisation, programmation, etc. exige des emplois nombreux.

Les deux formes de la pensée (rationnelle et raisonnable) interviennent dans chacune de ces deux formes de l’action productive :

- dans l’action à effet différé l’organisation, la programmation, etc. mettent en œuvre la pensée rationnelle pour obéir aux exigences formelles de la cohérence et de l’état de l’art des techniques. Mais cette action a pour préalable nécessaire l’expression de « ce que l’on veut faire » (et, plus profondément, de « ce que l’on veut être ») : la pensée raisonnable permet d’embrasser par l’intuition une situation dont la complexité outrepasse la grille conceptuelle de la pensée rationnelle, et d’anticiper les effets de l’action, nonobstant l’incertitude qui est l’essence même du futur ;

- dans l’action à effet immédiat, l’activité professionnelle s’appuie sur la clarté conceptuelle que procure le modèle théorique des spécialités. Cependant cette action, conçue dans le cadre rationnel d’une théorie, s’inscrit dans le monde réel et aura donc des effets dans l’Existant : l’anticipation de ses conséquences peut donc exiger une vigilance qui déborde le cadre conceptuel des spécialités professionnelles.

	Pensée rationnelle	Pensée raisonnable
Effet différé	Organisation et programmation	Interprétation de la situation stratégique, anticipation des effets différés
Effet immédiat	Action productive	Interprétation de la situation conjoncturelle, anticipation des effets immédiats, créativité

Pour répondre à une question ChatGPT applique automatiquement un traitement statistique au couple que forment cette question et la base documentaire qu’il a accumulée (nous faisons abstraction des éventuelles et rares interventions humaines dans le processus de réponse). L’intelligence de ChatGPT réside donc dans la formation et l’outillage de la base documentaire ainsi que dans la programmation de l’automate : il s’agit d’une intelligence à effet différé, obéissant de façon rationnelle à une intention stratégique raisonnable.

L’action à effet immédiat sera alors celle de l’utilisateur. La question qu’il pose résulte de ses préoccupations, donc d’une pensée raisonnable dans la situation qui est la sienne ; il la formule de façon rationnelle en utilisant les techniques de la « science du prompt » ; la réponse lui est fournie automatiquement ; il retourne à la pensée raisonnable pour l’interpréter en regard de sa situation.

Comme naguère avec le traitement de texte, le tableur, le logiciel graphique, le Web, les utilisateurs sont invités à acquérir le savoir-faire sans lequel, l’expérience le montre, ChatGPT risque de produire des erreurs que masque dangereusement la correction formelle des textes qu’il produit.

La puissance pratique de la pensée rationnelle a procuré à celle-ci un tel prestige que beaucoup de philosophes, et donc beaucoup de personnes, jugent les autres fonctions mentales (intuition, intentions, émotion, sensibilité, instinct) trop imprécises pour que l’on puisse les qualifier de « pensée » – et il est vrai qu’elles mobilisent le corps entier.

La pensée raisonnable est la source de la créativité : la glande cérébrale produit de façon aléatoire un flux d’associations d’idées dont la plupart sont stériles mais certaines fécondes, et ces dernières sont signalées à l’inventeur par une émotion qui s’empare de son corps tout entier, la grave dans sa mémoire et l’incite à une action persévérante. ChatGPT peut sans doute produire aléatoirement des associations d’idées, mais comme il n’a pas de corps il ne peut pas éprouver l’émotion bouleversante qui seule peut permettre de repérer celles qui sont potentiellement fécondes.

*     *

L’expérience de l’informatisation enseigne que l’on ne peut pas programmer utilement sans savoir ce que l’on veut faire, ce qui suppose des valeurs, une intention, une intuition de la situation, enfin une anticipation elle aussi intuitive des conséquences que l’action peut avoir dans l’Existant⁹.

La complexité de l’Existant et l’incertitude du futur dépassent les possibilités de la pensée rationnelle. Il en est de même de la situation, qui est une facette de l’Existant, et à laquelle l’action doit cependant répondre. Complexité et incertitude sont embrassées par l’intuition qui s’exprime, de façon suggestive et contrairement à la théorie, à l’aide d’un vocabulaire étendu et de chaînes déductives courtes.

Les entrepreneurs disent souvent qu’ils ont senti « avec leurs tripes » les dangers et les possibilités que comporte la situation, dans le métier des armes certains stratèges savent prendre des décisions judicieuses alors que la situation est confuse et que les rapports sont imprécis.

Nous sentons « avec nos tripes » la fadeur des textes que produit ChatGPT, résultats formels de l’application automatique d’une opération statistique sur un corpus de texte. Nous voyons avec notre raison l’étendue du possible qu’apporte cette opération, nous sentons (de façon imprécise mais énergique) qu’il nous faudra maîtriser, pour pouvoir en tirer parti, la « science du prompt » et un art de l’utilisation.

Ce ne sera pas la dernière des innovations bouleversantes qu’apporte l’informatisation. Nous n’en sommes, disent Brynjolfsson et McAfee¹⁰, qu'à la moitié de l'échiquier. En mettant un grain de riz sur la première case, deux sur la deuxième, quatre sur la troisième et ainsi de suite, cela fera 140 tonnes de riz à la trente-deuxième case, récolte annuelle d'une rizière de 40 hectares, mais 600 milliards de tonnes à la soixante-quatrième, soit mille fois la production annuelle mondiale. Telle est, estiment-ils, la proportion entre les effets actuels de l'informatisation et ceux que l'avenir nous réserve.

L’avenir nous apportera donc d’autres à-coups « nouveauté→ stupéfaction → banalité » semblables à celui que provoque aujourd’hui ChatGPT : il est utile d’interpréter cette expérience pour se préparer à la série de surprises bouleversantes que l’informatisation nous prépare.

____

¹ Nicolas Curien, « Que faut-il connaître, espérer et craindre de l’intelligence artificielle générative ? », Variances, 26 juin 2023.

² Alan M. Turing, « Computing machinery and intelligence », Mind, n°59, 1950.

³ Ray Kurzweil, The Singularity is Near, Penguin, 2005.

⁴ « The hope is that, in not too many years, human brains and computing machines will be coupled together very tightly, and that the resulting partnership will think as no human brain has ever thought and process data in a way not approached by the information-handling machines we know today » (Joseph Licklider, « Man Computer Symbiosis », IRE Transactions on Human Factors in Electronics, mars 1960).

⁵ Claude Rochet et Michel Volle, L’intelligence iconomique, de boeck, 2015.

⁶ Nicolas Curien, op. cit.

⁷ La Fontaine, « Le Héron », Fables, Livre VII.

⁸ Étienne Gilson, L’être et l’essence, Vrin, 1949.

⁹ Michel Volle, Valeurs de la transition numérique : civilisation de la troisième révolution industrielle, Institut de l’iconomie, 2018.

¹⁰ Erik Brynjolfsson et Andrew MacAfee, Race Against the Machine, Digital Frontier Press, 2011.