Citations utiles

Voici une petite collection de citations qui illustrent les raisonnements sur l'informatisation et les systèmes d'information :

« Fondamentalement, l’ordinateur et l’homme sont les deux opposés les plus intégraux qui existent. L’homme est lent, peu rigoureux et très intuitif. L’ordinateur est super rapide, très rigoureux et complètement con » (Gérard Berry, professeur d'informatique au Collège de France, entretien avec Rue89, 26 août 2016).

« The hope is that, in not too many years, human brains and computing machines will be coupled together very tightly, and that the resulting partnership will think as no human brain has ever thought and process data in a way not approached by the information-handling machines we know today »
« Nous espérons que dans peu d'années les cerveaux humains et les ordinateurs seront étroitement accouplés : leur partenariat pensera comme aucun cerveau humain n'avait pensé auparavant et traitera les données bien mieux que ne le font actuellement les machines de traitement de l'information »
(Joseph Licklider, « Man Computer Symbiosis », IRE Transactions on Human Factors in Electronics, mars 1960).

« [The IBM machine] was anything but intelligent. It was as intelligent as your alarm clock. A very expensive one, a $10 million alarm clock, but still an alarm clock. Very poweful -- brute force, with little chess knowledge. But chess proved to be vulnerable to the brute force: it could be crunched once hardware got fast enough and databases got big enough and algorithms got smart enough »
« [La machine IBM&] était tout sauf intelligente. Elle était aussi intelligente que votre réveille-matin. Il est très coûteux, il coûte 10 millions de dollars, mais ce n'est qu'un réveille-matin : très puissant, de la force brute, avec peu de connaissance des échecs. Mais les échecs se sont révélés vulnérables à la force brute : ils ont pu être dominés une fois le processeur assez rapide, les bases de données assez volumineuses, les algorithmes assez puissants » (Gary Kasparov et Mig Greengard, Deep Thinking: Where Machine Intelligence Ends and Human Creativity Begins, Public Affairs, 2017).

« The strongest chess player today is neither a human, nor a computer, but a human team using computers »
« Le meilleur joueur d'échecs n'est aujourd'hui ni un humain, ni un ordinateur, mais une équipe d'humains utilisant des ordinateurs » (Devdatt Dubhashi et Shalom Lappin, « AI Dangers: Imagined and Real », Communications of the ACM, février 2017).

« In mathematics we are usually concerned with declarative (what is) descriptions, whereas in computer science we are usually concerned with imperative (how to) descriptions »
« En mathématiques on part de définitions (qu'est-ce que c'est ?) tandis qu'en informatique on part d'une action (comment faire ?) » (Harold Abelson et Gerald Jay Sussman, Structure and Interpretation of Computer Programs, MIT Press, 2001, p. 22).

« La culture s'est constituée en système de défense contre les techniques ; or, cette défense se présente comme une défense de l'homme, supposant que les objets techniques ne contiennent pas de réalité humaine. Nous voudrions montrer que la culture ignore dans la réalité technique une réalité humaine, et que, pour jouer son rôle complet, la culture doit incorporer les êtres techniques sous forme de connaissance et de sens des valeurs » (Gilbert Simondon, Du mode d'existence des objets techniques, Aubier, 1958, p. 9).

« L'information n'est pas une chose, mais l'opération d'une chose arrivant dans un système et y produisant une transformation. L'information ne peut pas se définir en dehors de cet acte d'incidence transformatrice et de l'opération de réception » (Gilbert Simondon, Communication et information, Les éditions de la transparence, 2010).

« Au-dessus de la communauté sociale de travail, au delà de la relation interindividuelle qui n'est pas supportée par une activité opératoire, s'institue un univers mental et pratique de la technicité dans lequel les êtres humains communiquent à travers ce qu'ils inventent. L'objet technique pris selon son essence, c'est-à-dire en tant qu'il a été inventé, pensé et voulu, assumé par un sujet humain, devient le support et le symbole de cette relation transindividuelle » (Gilbert Simondon, Du mode d'existence des objets techniques, Aubier, 1958, p. 335).

« C'est la culture qui gouverne l'homme, même si cet homme gouverne d'autres hommes et des machines. Or, cette culture est élaborée par la grande masse de ceux qui sont gouvernés ; si bien que le pouvoir exercé par un homme ne vient pas de lui à proprement parlé, mais se cristallise et se concrétise seulement en lui : il vient des hommes gouvernés et y retourne » (Gilbert Simondon, Du mode d'existence des objets techniques, Aubier, 1958, p. 207).

« Un professeur de l'ESCP a fait une étude sur près de 300 entreprises dans le monde. Il démontre que 9 % des collaborateurs s'arrachent pour faire avancer les choses, 71 % n'en ont rien à faire et 20 % font tout pour empêcher les 9 % précédents d'avancer » (Georges Epinette, Antémémoires d'un dirigeant autodidacte, Cigref-Nuvis, 2016, p. 24).

« Les approches bureaucratiques ignorantes de la nature du travail cherchent à éliminer toute pensée, activité coûteuse dont la rentabilité n'est pas immédiatement perceptible. D'où l'échec que le « perfectionnement » des procédures ne fera qu'amplifier. L'application trop systématique d'idées parfaitement logiques peut engendrer des catastrophes » (Laurent Bloch, Systèmes d'information, obstacles et succès, Vuibert, 2005).

« Jean-Paul Sartre ne s'est jamais résigné à la vie sociale telle qu'il l'observait, telle qu'il la jugeait, indigne de l'idée qu'il se faisait de la destination humaine (...) Nous avions tous deux médité sur le choix que chacun fait de soi-même, une fois pour toutes, mais aussi avec la permanente liberté de se convertir. Il n'a jamais renoncé à l'espérance d'une sorte de conversion des hommes tous ensemble. Mais l'entre-deux, les institutions, entre l'individu et l'humanité, il ne l'a jamais pensé, intégré à son système » (Raymond Aron, Mémoires, Robert Laffont, 2010 p. 954).

« L’entreprise n’obéit pas uniquement à une rationalité marchande. En externe, elle intervient bel et bien sur différents marchés à la recherche de profits pécuniaires, selon la loi de l’offre et de la demande. Mais, en interne, elle est avant tout un collectif humain assujetti à un mode singulier d’exercice du pouvoir, le management, forgé précisément en réaction aux mécanismes de coordination par le marché. La gestion peut être mise au service du capitalisme, cela n’affecte pas substantiellement sa nature non marchande » (Thibault Le Texier, Le maniement des hommes, essai sur la rationalité managériale, La découverte, 2015).

« Meine Eigenliebe sagt mir, man habe mich unwiderleglich gefunden ; meine Zweifelsucht dagegen flüstert mir zu, man achte mich zu gering, um mich eine Widerlegung zu würdigen. »
« L'amour-propre me dit que l'on a jugé mon argumentation irréfutable. Le doute intime me chuchote par contre que l'on ne m'accorde pas assez d'importance pour me faire l'honneur d'une contradiction. » (Friedrich List, Das nationale System der politischen Ökonomie, 1841, p. XXI)

« Nichts ist natürlicher, als daß Autoren, die bloß ihre Vorgänger abgeschrieben oder erläutert und all’ ihr Wissen aus Büchern geschöpft haben, höchlich beunruhigt und verblüfft werden, wenn ihnen lebendige, ihrem Schulwissen widerstreitende Ehrfahrungen und ganz neue Ideen gegenübertreten. »
« Rien n'est plus naturel, pour des auteurs qui n'ont fait que recopier leurs prédécesseurs et dont tout le savoir provient des livres, que d'être profondément inquiet et perplexe quand ils sont confrontés à des expériences tirées de la vie, à de nouvelles idées qui contredisent leur savoir scolaire. » (Friedrich List, Das nationale System der politischen Ökonomie, 1841, p. XXIX)

« Je rascher der Geist industrieller Erfindung und Verbesserung, der Geist gesellschaftlicher und politischer Vervollkommung vorwärts schreitet, desto größer wird der Abstand zwischen den stillstehenden und den fortschreitenden Nationen, desto gefährlicher das Zurückbleiben. »
« Plus l'esprit d'invention et d'innovation industrielle est vif, plus l'esprit du progrès sociétal et politique va de l'avant, plus se creuse le fossé entre les nations qui avancent et celles qui restent sur place, plus il est dangereux de prendre du retard. » (Friedrich List, Das nationale System der politischen Ökonomie, 1841, p. 1)

« Unfortunately, it seems to be much easier to condition human behavior and to make people conduct themselves in the most unexpected and outrageous manner, than it is to persuade anybody to learn from experience, as the saying goes; that is, to start thinking and judging instead of applying categories and formulas which are deeply ingrained in our mind, but whose basis of experience has long been forgotten and whose plausibility resides in their intellectual consistency rather than in their adequacy to actual events » (Hannah Arendt, « Personal Responsibility Under Dictatorship », 1964).

« The theologians who declined, when invited, to look through Galileo’s telescopes, were certainly scholastics, and therefore already, as they thought, in possession of sufficient knowledge about the material universe. If Galileo’s findings agreed with Aristotle and St Thomas there was non point in looking through the telescope; il they did not they must be wrong » (Joseph Needham, Science and Civilisation in China, Cambridge University Press 1991, vol. 2 p. 90).

« Ce n'est pas avec des 5 %, des 10 % de bénéfice, mais avec des centaines pour cent et des milliers pour cent que se sont faites les fortunes du Lancashire » (Eric Hobsbawm, L'ère des révolutions , 1970).Ce n'est pas avec des 5 %, des 10 % de bénéfice, mais avec des centaines pour cent et des milliers pour cent que se sont faites les fortunes du Lancashire » (Eric Hobsbawm, L'ère des révolutions, 1970).

Ce que Richard Feynman appelait la « pretentious science » : « The work is always, (1) completely un-understandable, (2) vague and indefinite, (3) something correct that is obvious and self-evident, worked out by a long and difficult analysis, and presented as an important discovery, or (4) a claim based on the stupidity of the author that some obvious and correct fact, accepted and checked for years is, in fact, false (these are the worst : no argument will convince the idiot), (5) an attempt to do something, probably impossible, but certainly of no utility, which, it is finally revealed at the end, fails or (6) just plain wrong. » (James Gleick, Genius, Vintage Books, 1992, p. 353).

« L’homme de devoir finira par remplir son devoir envers le diable lui-même, Der Mann der Pflicht wird schließlich auch noch dem Teufel gegenüber seine Pflicht erfüllen müssen », Dietrich Bonhoeffer (1906-1945), Widerstand und Ergebung, Eberhard Bethge 1955, p. 13.

« Consider what effects, that might conceivably have practical bearings, we conceive the object of our conception to have. Then, our conception of these effects is the whole of our conception of the object. » (Charles Sanders Peirce, « How to Make Our Ideas Clear », 1878)

« Vingt ans d'expérience n'ont fait que me fortifier dans les convictions ci-après :

"Il existe un petit nombre de principes fondamentaux de la guerre, dont on ne saurait s'écarter sans danger, et dont l'application au contraire a été presque en tout temps conronnée de succès.

"Les maximes d'application dérivant de ces principes sont elles aussi en petit nombre, et, si elles se trouvent quelquefois modifiées selon les circonstances, elles peuvent néanmoins servir en général de boussole à un chef d'armée pour le guider dans la tâche, toujours difficile et compliquée, de conduire de grandes opérations au milieu du fracas et du tumulte des combats.

"Le génie naturel saura sans doute, par des inspirations heureuses, appliquer les principes aussi bien que pourrait le faire la théorie la plus étudiée ; mais une théorie simple, dégagée de tout pédantisme, remontant aux causes sans donner de systèmes absolus, basée en un mot sur quelques maximes fondamentales, suppléera souvent au génie, et servira même à étendre son développement en augmentant sa confiance dans ses propres inspirations.

"De toutes les théories de l'art de la guerre, la seule raisonnable est celle qui, fondée sur l'étude de l'histoire militaire, admet un certain nombre de principes régulateurs, mais laisse au génie naturel la plus grande part dans la conduite générale d'une guerre, sans l'enchaîner par des règles exclusives.

"Au contraire, rien n'est plus propre à tuer le génie naturel et à faire triompher l'erreur, que ces théories pédantesques, basées sur la fausse idée que la guerre est une science positive dont toutes les opérations peuvent être réduites à des calculs infaillibles.

"Enfin, les ouvrages métaphysiques et sceptiques de quelques écrivains ne réussiront pas non plus à faire croire qu'il n'existe aucune règle de guerre, car leurs écrits ne prouvent absolument rien contre des maximes appuyées sur les plus brillants faits d'armes modernes, et justifiées par les raisonnements même de ceux qui croient les combattre." » (Antoine-Henri Jomini, Précis de l'art de la guerre, Ivrea, 1994, p. 14)

"Rien n'est plus commun que les bonnes choses : il n'est question que de les discerner ; et il est certain qu'elles sont toutes naturelles et à notre portée, et même connues de tout le monde. Mais on ne sait pas les distinguer. Ceci est universel. Ce n'est pas dans les choses extraordinaires et bizarres que se trouve l'excellence de quelque genre que ce soit. On s'élève pour y arriver, et on s'en éloigne : il faut le plus souvent s'abaisser. Les meilleurs livres sont ceux que ceux qui les lisent croient qu'ils auraient pu faire. La nature, qui seule est bonne, est toute familière et commune.

"Je ne fais donc pas de doute que ces règles, étant les véritables, ne doivent être simples, naïves, naturelles, comme elles le sont. Ce n'est pas barbara et baralipton qui forment le raisonnement. Il ne faut pas guinder l'esprit ; les matières tendues et pénibles le remplissent d'une sotte présomption par une élévation étrangère et ridicule au lieu d'une nourriture solide et vigoureuse. Et l'une des raisons principales qui éloignent autant ceux qui entrent dans ces connaissances du véritable chemin qu'ils doivent suivre, est l'imagination qu'on prend d'abord que les bonnes choses sont inaccessibles, en leur donnant le nom de grandes, hautes, élevées, sublimes. Cela perd tout. Je voudrais les nommer basses, communes, familières : ces noms-là leur conviennent mieux ; je hais ces mots d'enflure..." (Blaise Pascal, "De l'esprit géométrique et de l'art de persuader", in Oeuvres complètes, ed. Pléiade, Gallimard, Pléiade, 1954, p. 602).

« It is, I believe, only possible to save anything from (…) the wreckage of the greater part of the general equilibrium theory if we can assume that the markets confronting most of the firms (…) do not differ greatly from perfectly competitive markets (…) and if we can suppose that the percentages by which prices exceed marginal costs are neither very large nor very variable » (John Hicks, Value and Capital, Oxford University Press, 1939, p. 84).

« Floating point computation is by nature inexact, and programmers can easily misuse it so that the computer answers consist almost entirely of "noise". One of the principal problems of numerical analysis is to determine how accurate the results of certain numerical methods will be. There's a credibility gap : We don't know how much of the computer's answers to believe. Novice computer users solve this problem by implicitly trusting in the computer as an infallible authority ; they tend to believe that all digits of a printed answer are significant. Disillusioned computer users have just the opposite approach : they are constantly afraid that their answers are almost meaningless. Many serious mathematicians have attempted to analyze a sequence of floating point operations rigorously, but have found the task so formidable that they have tried to be content with plausibility arguments instead ».
Le calcul en virgule flottante est par nature inexact, et les programmeurs peuvent facilement s'y prendre de telle sorte que la réponse de l'ordinateur sera purement aléatoire. L'un des problèmes les plus importants de l'analyse numérique est d'évaluer l'exactitude des résultats de certaines méthodes de calcul. Il y a là un fossé de crédibilité : nous ne savons pas dans quelle mesure nous devons faire confiance à l'ordinateur. Les utilisateurs novices résolvent ce problème en considérant implicitement l'ordinateur comme une autorité infaillible ; ils ont tendance à croire que tous les chiffres d'un résultat imprimé sont significatifs. Les utilisateurs désillusionnés ont l'approche radicalement contraire : ils craignent toujours que les résultats n'aient aucun sens. Beaucoup de mathématiciens qualifiés ont tenté d'analyser rigoureusement une suite de calculs en virgule flottante, mais ils ont trouvé la tâche si écrasante qu'ils ont tenté de se contenter de pures indications de vraisemblance.
(Donald E. Knuth, The Art of Computer programming, Addison Wesley 1998, vol. 2 p. 229).

Un robot n'est pas une personne, une personne n'est pas un robot

Mon ami Pierre Berger n'est pas d'accord avec ce que j'ai écrit dans « Taxer les robots serait une faute historique » : « on peut très bien considérer, dit-il, qu'un robot a une intention propre. N'importe quel objet physique a une intention propre : continuer d'exister ou de se mouvoir selon les lois de Newton... »

Selon Pierre Berger des choses (une pierre, une goutte d'eau, etc.) peuvent avoir des intentions et donc penser : la « chose qui pense » étant pour lui une réalité (alors qu'elle est pour moi une chimère), il ne peut pas concevoir ce qui distingue un robot d'une personne.

Chacun est libre de choisir la façon dont il voit le monde et l'animisme, qui attribue une âme aux choses, enchante l'imagination poétique et la rêverie. Je ne critiquerai donc pas le point de vue de Pierre Berger mais il me semble qu'il l'empêche de voir certaines choses.

Le fait est que les systèmes d'information ont fait apparaître un être nouveau dans les institutions : l'« être humain augmenté », désormais porteur de la compétence individuelle et qui résulte de la symbiose de la personne et de l'automate, ordinateur ou robot.

Pour réussir cette symbiose les institutions doivent savoir organiser l'action conjointe de la personne et de l'automate en attribuant à chacun des deux les tâches qu'il fait mieux que l'autre : tandis que notre cerveau sait interpréter des situations particulières, se débrouiller devant l'imprévu, concevoir des idées et des choses nouvelles, l'automate exécute plus vite et plus exactement que nous ne pouvons le faire la suite d'instructions que comporte son programme.

Les systèmes d'information organisent en outre le réseau qui assure la synergie des compétences individuelles. Cette synergie, qui procure son efficacité à l'action collective, ne peut s'instaurer que si les organisateurs tiennent compte du fait que chacune des compétences individuelles résulte de la symbiose d'une personne et de l'automate.

Pour pouvoir réussir cette symbiose il faut savoir penser ce qui distingue l'automate et la personne mais qui est invisible si l'on postule que l'automate est une personne, car alors on ne peut plus concevoir en quoi ils diffèrent.

Si l'on nie la différence entre le robot et la personne, il sera en outre naturel de considérer les personnes comme des robots et donc d'attendre d'elles qu'elles agissent en exécutant un programme. C'est ce que font les entreprises qui téléguident l'action de leurs agents en l'enfermant dans des consignes détaillées et strictes : elles croient qu'ils répugneraient à prendre des initiatives, à faire preuve de créativité et de responsabilité, etc., alors qu'en fait c'est elles qui sont incapables de leur déléguer la légitimité qui le permettrait.

C'est ainsi que l'on rencontre, derrière les guichets de la SNCF, des impôts, de la sécurité sociale, des banques, etc., des agents auxquels un système d'information interdit d'user de leur bon sens en face du client qui présente un cas particulier. Ces institutions tournent le dos à l'efficacité en gaspillant une ressource naturelle, l'intelligence de leurs agents.

Les régimes totalitaires ont assimilé les personnes aux machines : ils ont ambitionné de créer un « homme nouveau » qui comme elles serait puissant, précis, infatigable et impitoyable. Ceux qui assimilent aujourd'hui les robots aux personnes, et donc les personnes aux robots, annoncent le retour de ce totalitarisme.