samedi 20 juillet 2013

L'imbécillité de l'intelligence

In English : "The stupidity of intelligence".

A la suite de l'affaire Snowden Le Monde a publié un article éclairant (Aymeric Janier, « Keith Alexander, le « pacha » de la NSA », Le Monde, 15 juillet 2013).

37 000 employés, un budget de l'ordre de 10 milliards de dollars, des moyens informatiques ultra-puissants, l'ambition de « tout intercepter sur tout, partout »... On devine dans le propos d'Alexander un délire bureaucratique : qui pourrait lui refuser toujours plus de budget, de puissance de calcul, de collecte, après le 11 septembre 2001, après que se soit répandue cette crainte obsessionnelle qui est la victoire des terroristes ?

Mais le renseignement, que les Anglo-saxons appellent « intelligence », s'appuie toujours sur un arbitrage entre l'observation et l'interprétation – ou, dans le langage des professionnels, entre la collecte et l'analyse. Collecter le maximum de faits ne sert à rien si l'on ne sait pas les interpréter, et les compétences nécessaires pour l'analyse diffèrent de celles qui servent à la collecte et au traitement des données.

L'informatisation facilite la collecte, l'analyse des données elle-même informatisée fournit de puissants outils. On est alors tenté de croire que la collecte, ainsi outillée par la statistique, pourra suffire pour tout savoir.

La finance a été la proie d'une illusion analogue : alors que son art réside dans l'arbitrage entre rendement et risque, la puissance qu'apporte l'informatique a atténué la sensation du risque (mais non le risque lui-même). Il en est résulté, il en résultera des catastrophes. De même, la puissance qu'apporte l'informatique déséquilibre l'arbitrage entre la collecte et l'analyse. Or tout observer, c'est ne rien comprendre.

Tout observer, c'est ne rien comprendre

Il suffit de s'examiner pour voir que l'intellect est nécessairement sélectif : dans la complexité du monde nous devons choisir à chaque instant de voir ce qui importe pour notre action et donc de ne pas voir le reste : un conducteur qui se laisserait distraire par les détails du paysage serait dangereux.

Il faut bien sûr que cette sélection soit pertinente, c'est-à-dire adéquate à notre action, et aussi que nous sachions en changer dès que l'orientation de l'action change. Il n'en reste pas moins que cette cécité partielle est nécessaire : notre intellect sera submergé si nous ne trions pas parmi les signaux qui sollicitent notre perception.

Statistique et théorie économique

J'ai inauguré dans les années 70 le cours d'analyse des données à l'ENSAE. Tout comme la radiographie permet de voir ce que cache l'opacité du corps humain, l'analyse des données permet de voir des choses que cache la masse des statistiques. Les résultats des diverses méthodes sont accompagnés d'« aides à l'interprétation » qui font apparaître en quelques heures des structures qu'un statisticien assidu, mais dépourvu de ces outils, n'aurait pu percevoir qu'après des mois de travail.

Cependant les « interprétations » qui s'appuient sur la seule statistique seront souvent erronées. Les distributions et corrélations que l'analyse des données visualise sont des indices qui, comme dans une enquête policière, orientent vers la compréhension mais ne suffisent pas pour l'atteindre : il se peut que des indices soient fallacieux.

L'interprétation sera d'ailleurs toujours naïve si le statisticien ignore le trésor des interprétations passées qui se condense dans les axiomes et résultats de la théorie économique. Or la tentation est forte : Jean-Paul Benzécri a prétendu que l'analyse des données révélait « le pur diamant de la véridique nature ». Les économètres eux-mêmes – dont la discipline se rattache pourtant à la théorie – commettent parfois par précipitation la même erreur.

Nota Bene : dans un livre intitulé Big Data et qui rencontre paraît-il un grand succès Viktor Mayer-Schonberger et Kenneth Niel Cukier érigent cette erreur en principe d'une démarche qu'ils parent des prestiges de la nouveauté  : move away from the age-old search for causality. As humans we have been conditionned to look for causes, even though searching causality is often difficult and may lead us down the wrong paths. In a big data world, by contrast, we won't have to be fixed on causality; instead we can discover patterns and correlations in the data that offer us novel and invaluable inisghts. The correlation may not tell us precisely why something is happening, but they alert us that it is happening.

Renseignement et culture

Cette situation se retrouve dans le renseignement. Supposons que vous soyez chargé d'observer un pays du Moyen-Orient en utilisant toutes les ressources de l'espionnage électronique : vous recevez la transcription de communications téléphoniques, messages électroniques, consultations du Web etc.

Pour les interpréter il faut que vous compreniez les dialectes qui se parlent dans ce pays mais cela ne suffit pas. Il faut aussi que vous connaissiez son histoire et sa géographie, sa littérature, sa ou ses religions, que vous soyez au fait de sa situation politique, de la biographie des personnalités les plus éminentes, des conflits qui les opposent, de mouvements d'idées et d'opinions qui plongent leurs racines dans le passé comme dans l'actualité, etc. Cette culture fournit les concepts nécessaires à l'exercice de votre discernement, la base théorique de vos interprétations.

Un bon analyste n'exige pas une observation exhaustive car elle le submergerait : il sera plutôt un acteur de la dialectique entre la culture et l'observation. La culture oriente l'observation vers les gisements les plus féconds ; l'observation conduit à préciser la culture, la compléter, parfois la modifier, et ses enseignements les plus précieux sont ceux qui contredisent des a priori conceptuels.

L'acquisition d'une telle culture demande un travail assidu, prolongé, qui ne peut être supportable et fécond que s'il est animé par un intérêt passionné. C'est parmi les Britanniques que l'on rencontre le plus grand nombre de personnes qui s'intéressent à d'autres pays car elles veulent s'émanciper de l'étroitesse insulaire : que l'on pense à T. E. Lawrence, à Leslie Blanch, à Richard Burton.

Mais de tels caractères sont rares aux États-Unis car les Américains, convaincus de vivre dans le meilleur pays qui soit, n'ont pas autant que les Britanniques le besoin de s'immerger dans une autre civilisation. A supposer qu'il s'en trouve un à la NSA, il ne pourra pas faire prévaloir ses besoins dans une bureaucratie qui ne pense qu'à collecter toujours plus d'observations, qu'à accumuler toujours plus d'algorithmes et de puissance de calcul. L'absurdité de sa situation le poussera à partir bien plus que l'indignation morale : c'est peut-être ce qui est arrivé à Snowden.

*     *

Dans le renseignement, comme dans la finance, l'excès de confiance envers la puissance informatique s'accompagne d'un mépris envers le bon sens : alors les mauvais professionnels chassent les bons et le délire s'installe, d'autant plus facilement que l'activité est protégée par le secret et soustraite à tout contrôle.

La menace, ce n'est pas que chacun soit tout nu devant les services de renseignement : c'était déjà le cas sous Napoléon. C'est que cette machine, lancée comme un marteau sans maître, se mette à frapper sans discernement et nous fasse tomber, au niveau mondial, dans une nouvelle version du maccarthysme.

9 commentaires:

  1. La responsabilité politique et professionnelle d'une catastrophe ou dans ce cas d'un acte d'agression a tendance à retrancher les *individus* dans une position du contrôle total (illusoire). Ne pas être responsable de ce qui arrive aux autres, pas par conscience, mais par peur des conséquences d'une négligence sur son propre futur. Ainsi je me demande dans quelle mesure, la collecte totale n'est pas en partie motivée par cette peur de manquer l'information cruciale (qui ne sera bien sûr pas plus facile à trouver). La faute serait alors aux systèmes toujours pas assez performants plus qu'à la démarche d'analyse de suivre quelques pistes.

    RépondreSupprimer
  2. Merci pour ce billet très intéressant d'un point de vue renseignement. Moi, ce qui me marque, c'est plusieurs faits :

    - La NSA avait espionné ses alliés, c'est un non évènement. Les politiciens européens font semblant de s'indigner. En réalité, la NSA travaille "main dans la main" avec leurs homologues européens. Elle fournit aux Européens « des outils d’analyse ».

    - Au delà des pratiques inégales d'écoute, les Américains violent constamment les règles de la diplomatie, qui régissent les relations entre les états. L'épisode de l’avion du président bolivien Morales montre que la violation flagrant de ces règles vient du gouvernement américain. Cela montre comment les services secrets américains et européens font preuve d’incompétence. Comment peuvent-ils croire que Snowden est dans l'avion présidentiel bolivien ? Comment peuvent-ils ignorer que l’avion d’Evo Morales n’a jamais été à l’aéroport de Moscou où Edward Snowden était «en transit». Le président bolivien a quitté l’aéroport de Vnukovo, qui est de 43 km de là. Comment Edward Snowden aurait-il bougé, sans qu’un des nombreux services qui doivent saturer toutes les portes de la zone de départ de l’aéroport ne l’eussent remarqué ? Cela me rappelle l'affaire d'espionnage chez Renault. On réagit de manière excessive sur des rumeurs, c'est la conséquence des activités de renseignement en version «achetées».

    - Le lien de vassalité des pays européens face aux USA : les gouvernements européens sont des marionnettes exploitées à volonté par la Maison Blanche. Malgré leurs déclarations grandiloquentes et leurs allusions aux principes humanistes les plus élevés produits par l’Europe des Lumières, ce sont des gouvernements corrompus dont les rodomontades ont donné des échantillons répétés d’une incapacité retentissante à refuser de commettre un crime ou un délit, pour peut qu’il soit ordonné par les États-Unis. Le blocage et le détournement de l’avion présidentiel bolivien en est un exemple. Que les Européens avaient auparavant autorisé à décoller de Russie, -bien qu’alors en plein vol, il s’est vu refuser cette autorisation, risquant la vie d’Evo Morales et de son projet- mais ils ont logistiquement soutenu les nombreux vols secrets de la CIA transportant des suspects vers des pays où ils pourraient être torturés et tués en toute impunité.

    - La mise en évidence des efforts déployés par Washington pour détourner l’attention de la discussion dans l’affaire Snowden: le crime n’est pas l’espionnage massif des citoyens et des gouvernements de pays amis, ou des agences de presse, ou le viol de la vie privée des uns et des autres, ou d’avoir enfreint les règles et les lois qui protègent les droits et libertés individuels. Le crime est d’avoir révélé ces crimes, d’avoir fait savoir à leur société que nous sommes sous un pouvoir absolu, irresponsable et immoral qui se dit démocratique et respectueux de la loi, mais que c’est exactement le contraire.

    RépondreSupprimer
  3. L'histoire se répète. Rappelez-vous de la vague scientiste du XIXème siècle et le désenchantement au XXème.

    RépondreSupprimer
  4. "trop d'informations tue l'information"... on n'en sort pas. La NSA peut "écouter" tout ce qu'elle veut, cela n'a pas grande importance. Protégeons cependant ce qui doit l'être (personnes clés dans le monde économique et politique), espionnons ce qui doit l'être et laissons les américains croire à leur toute puissance technologique...

    RépondreSupprimer
  5. L'espionnage entre alliés est une pratique courante. Israel a espionné les états unis. Mais j'ajoute à votre excellent article, que la facilité de diffusion de l'information permet aussi des opération d'intoxication aisée. Elle demandait pendant la guerre de 45 une logistique énorme. Aujourd'hui il est encore plus facile de diffuser des fausses informations sur les réseaux de télécommunications. Sans le discernement et la culture ad-hoc le risque d'intoxication est encore plus grand. Et seul un travail sur le terrain permet de différencier le bon grain de ivraie.

    RépondreSupprimer
  6. Excellent texte qui met en évidence ce que nous ne devrions jamais oublier 8 Les données ne sont pas intelligibles si on n'ajoute pas les éléments de contexte, ce qui donne l'information. Mais l'information elle-même doit se nourrir de culture, d'histoire, de compréhension des liens ... Donc données < information < connaissance.
    J'utilise un truc simple pour faire comprendre cela à mes étudiants. J'écris 38°. Et je leur demande ce qu'ils doivent faire... Et là en général ils partent sur des pistes intéressantes, température, angle, pente, degré alcoolique . Mais là où cela devient intéressant, c'est quand je leur demande comment s'habiller quand il fait 38° ? Et on voit bien qu'il faut accumuler beaucoup de données et d'informations pour répondre à cette question anodine !

    RépondreSupprimer
  7. La récolte massive de données sert 2 buts: l'un bien identifié dont tout le monde parle: la collecte et analyse des données pour identifier les opportunités (souvent d'affaire), éviter les risques, gagner un avantage concurrentiel (politique ou économique). Le 2e qui est de créer des dossiers sur les personnages clés: leur mails, leurs conversations, leurs messages... mais aussi toutes transmissions sur le personnage (:i.e. entre des personnes de son entourage, de sa famille ...). le "Dossier" est alors utilisé pour déstabiliser le personnage politique ou économique quand nécessaire, déstabiliser son parti ou son entreprise et pour donner un avantage aux US.

    RépondreSupprimer
  8. Passionnante analyse qui résonne
    comme en écho aux travaux de Christophe Dejours
    sur le travail et la culture :

    https://www.youtube.com/watch?v=BLet1cNcGlw&list=PL1DB7CC4B3D580C43

    et de Jean Philippe Lachaux sur le fonctionnement cérébral et notamment "le cerveau attentif" :

    https://www.youtube.com/watch?v=GbMWsmZJM2Q

    RépondreSupprimer
  9. Anonyme se nomme Hugues Chevalier.
    Que l'interprétation du renseignement soit affaire de culture, c'est une évidence (pour nous).
    Mais c'est aussi une affaire d'intuition: une forme d'esprit attentive aux signaux faibles, aux rapprochements de données sans liens apparents, aux non-dits.

    RépondreSupprimer