L'imbécillité de l'intelligence

In English : "The stupidity of intelligence".

A la suite de l'affaire Snowden Le Monde a publié un article éclairant (Aymeric Janier, « Keith Alexander, le « pacha » de la NSA », Le Monde, 15 juillet 2013).

37 000 employés, un budget de l'ordre de 10 milliards de dollars, des moyens informatiques ultra-puissants, l'ambition de « tout intercepter sur tout, partout »... On devine dans le propos d'Alexander un délire bureaucratique : qui pourrait lui refuser toujours plus de budget, de puissance de calcul, de collecte, après le 11 septembre 2001, après que se soit répandue cette crainte obsessionnelle qui est la victoire des terroristes ?

Mais le renseignement, que les Anglo-saxons appellent « intelligence », s'appuie toujours sur un arbitrage entre l'observation et l'interprétation – ou, dans le langage des professionnels, entre la collecte et l'analyse. Collecter le maximum de faits ne sert à rien si l'on ne sait pas les interpréter, et les compétences nécessaires pour l'analyse diffèrent de celles qui servent à la collecte et au traitement des données.

L'informatisation facilite la collecte, l'analyse des données elle-même informatisée fournit de puissants outils. On est alors tenté de croire que la collecte, ainsi outillée par la statistique, pourra suffire pour tout savoir.

La finance a été la proie d'une illusion analogue : alors que son art réside dans l'arbitrage entre rendement et risque, la puissance qu'apporte l'informatique a atténué la sensation du risque (mais non le risque lui-même). Il en est résulté, il en résultera des catastrophes. De même, la puissance qu'apporte l'informatique déséquilibre l'arbitrage entre la collecte et l'analyse. Or tout observer, c'est ne rien comprendre.

Tout observer, c'est ne rien comprendre

Il suffit de s'examiner pour voir que l'intellect est nécessairement sélectif : dans la complexité du monde nous devons choisir à chaque instant de voir ce qui importe pour notre action et donc de ne pas voir le reste : un conducteur qui se laisserait distraire par les détails du paysage serait dangereux.

Il faut bien sûr que cette sélection soit pertinente, c'est-à-dire adéquate à notre action, et aussi que nous sachions en changer dès que l'orientation de l'action change. Il n'en reste pas moins que cette cécité partielle est nécessaire : notre intellect sera submergé si nous ne trions pas parmi les signaux qui sollicitent notre perception.

Statistique et théorie économique

J'ai inauguré dans les années 70 le cours d'analyse des données à l'ENSAE. Tout comme la radiographie permet de voir ce que cache l'opacité du corps humain, l'analyse des données permet de voir des choses que cache la masse des statistiques. Les résultats des diverses méthodes sont accompagnés d'« aides à l'interprétation » qui font apparaître en quelques heures des structures qu'un statisticien assidu, mais dépourvu de ces outils, n'aurait pu percevoir qu'après des mois de travail.

Cependant les « interprétations » qui s'appuient sur la seule statistique seront souvent erronées. Les distributions et corrélations que l'analyse des données visualise sont des indices qui, comme dans une enquête policière, orientent vers la compréhension mais ne suffisent pas pour l'atteindre : il se peut que des indices soient fallacieux.

L'interprétation sera d'ailleurs toujours naïve si le statisticien ignore le trésor des interprétations passées qui se condense dans les axiomes et résultats de la théorie économique. Or la tentation est forte : Jean-Paul Benzécri a prétendu que l'analyse des données révélait « le pur diamant de la véridique nature ». Les économètres eux-mêmes – dont la discipline se rattache pourtant à la théorie – commettent parfois par précipitation la même erreur.

Nota Bene : dans un livre intitulé Big Data et qui rencontre paraît-il un grand succès Viktor Mayer-Schonberger et Kenneth Niel Cukier érigent cette erreur en principe d'une démarche qu'ils parent des prestiges de la nouveauté  : move away from the age-old search for causality. As humans we have been conditionned to look for causes, even though searching causality is often difficult and may lead us down the wrong paths. In a big data world, by contrast, we won't have to be fixed on causality; instead we can discover patterns and correlations in the data that offer us novel and invaluable inisghts. The correlation may not tell us precisely why something is happening, but they alert us that it is happening.

Renseignement et culture

Cette situation se retrouve dans le renseignement. Supposons que vous soyez chargé d'observer un pays du Moyen-Orient en utilisant toutes les ressources de l'espionnage électronique : vous recevez la transcription de communications téléphoniques, messages électroniques, consultations du Web etc.

Pour les interpréter il faut que vous compreniez les dialectes qui se parlent dans ce pays mais cela ne suffit pas. Il faut aussi que vous connaissiez son histoire et sa géographie, sa littérature, sa ou ses religions, que vous soyez au fait de sa situation politique, de la biographie des personnalités les plus éminentes, des conflits qui les opposent, de mouvements d'idées et d'opinions qui plongent leurs racines dans le passé comme dans l'actualité, etc. Cette culture fournit les concepts nécessaires à l'exercice de votre discernement, la base théorique de vos interprétations.

Un bon analyste n'exige pas une observation exhaustive car elle le submergerait : il sera plutôt un acteur de la dialectique entre la culture et l'observation. La culture oriente l'observation vers les gisements les plus féconds ; l'observation conduit à préciser la culture, la compléter, parfois la modifier, et ses enseignements les plus précieux sont ceux qui contredisent des a priori conceptuels.

L'acquisition d'une telle culture demande un travail assidu, prolongé, qui ne peut être supportable et fécond que s'il est animé par un intérêt passionné. C'est parmi les Britanniques que l'on rencontre le plus grand nombre de personnes qui s'intéressent à d'autres pays car elles veulent s'émanciper de l'étroitesse insulaire : que l'on pense à T. E. Lawrence, à Leslie Blanch, à Richard Burton.

Mais de tels caractères sont rares aux États-Unis car les Américains, convaincus de vivre dans le meilleur pays qui soit, n'ont pas autant que les Britanniques le besoin de s'immerger dans une autre civilisation. A supposer qu'il s'en trouve un à la NSA, il ne pourra pas faire prévaloir ses besoins dans une bureaucratie qui ne pense qu'à collecter toujours plus d'observations, qu'à accumuler toujours plus d'algorithmes et de puissance de calcul. L'absurdité de sa situation le poussera à partir bien plus que l'indignation morale : c'est peut-être ce qui est arrivé à Snowden.

*     *

Dans le renseignement, comme dans la finance, l'excès de confiance envers la puissance informatique s'accompagne d'un mépris envers le bon sens : alors les mauvais professionnels chassent les bons et le délire s'installe, d'autant plus facilement que l'activité est protégée par le secret et soustraite à tout contrôle.

La menace, ce n'est pas que chacun soit tout nu devant les services de renseignement : c'était déjà le cas sous Napoléon. C'est que cette machine, lancée comme un marteau sans maître, se mette à frapper sans discernement et nous fasse tomber, au niveau mondial, dans une nouvelle version du maccarthysme.