mardi 28 juillet 2020

Melanie Mitchell, Artificial Intelligence: A Guide for Thinking Humans, Farrar, Straus and Giroux, 2019

J'ai lu ce livre avec plaisir. L'auteur est compétente, modeste, lucide, elle a de l'humour, les exemples qu'elle décrit sont une mine d'informations.

Contrairement aux essayistes qui cèdent à la mode du « hype » ou qui, au contraire, considèrent l’IA à travers les lunettes que fournit une philosophie hors de saison, elle sait de quoi elle parle parce qu'elle en a acquis en tant que chercheur une expérience pratique et professionnelle.

Les épisodes historiques de l’IA sont décrits de façon précise avec leurs avancées et leurs limites : systèmes experts, machines à vecteurs de support, réseaux neuronaux. Certaines réussites sont impressionnantes (victoires contre les champions du monde aux échecs et au jeu de Go, reconnaissance d’images), mais l’IA qui sait jouer aux échecs ne sait rien faire d’autre : elle est étroitement limitée et il en est de même pour toutes les autres applications.

*     *

J’ai, comme Melanie Mitchell mais sans avoir son expérience, de fortes convictions concernant l'IA. La lire m'a incité à m'interroger sur ma propre expérience.

Mes convictions viennent de la pratique de la statistique. J'ai conçu, réalisé, exploité des enquêtes puis publié leurs résultats. J'ai pratiqué l'analyse des données et étudié à fond l'état de l'art de ses techniques dans les années 60-80.

Dans l'un et l'autre cas, j'ai rencontré des limites et tenté de les comprendre : comment et dans quel but est définie la grille conceptuelle d’une observation statistique ? Comment interpréter les résultats d'une analyse des données ?

La première question m'a conduit vers l'histoire, la deuxième vers la science économique. Cela m'a préparé aux systèmes d'information que j'ai rencontrés dans les années 90.

*     *

Les questions que soulève Melanie Mitchell concernent en fait l'informatique dont l'IA n'est qu'une application parmi d'autres. La question fondamentale est celle que George Forsythe a posée en 1969 : « “What can be automated?” is one of the most inspiring philosophical and practical questions of contemporary civilization ».

L'« IA générale » et la « singularité » de Kurzweil sont-elles de l'ordre du possible ? La réponse intuitive de Melanie Mitchell est non, car elle a de l'expérience et du bon sens, mais elle manque de fermeté.

Il me semble que l’on peut répondre à ces questions de façon exacte en articulant deux concepts (et les réalités qu'ils représentent) : celui de « situation », qu'elle évoque parfois, et celui des « valeurs », dont elle ne parle pas.

Cette articulation s'éclaire en prenant comme elle le fait des exemples au ras des pâquerettes (conversation, conduite automobile, lecture, écriture) et aussi des exemples professionnels : référentiel d'une entreprise, informatisation des processus, supervision du SI, apport d'un tableau de bord à la stratégie, etc.

On comprend alors que la pensée et l'action se forment, comme le langage, à la rencontre d’une situation avec les valeurs (humaines ou perverses) que portent les personnes et les institutions.

Méditer cette rencontre et ces exemples conduit, concernant l'IA, à des conclusions qui me semblent très solides car pour les réfuter il faudrait nier les faits qu'apportent ces exemples, chose impossible.

1 commentaire:

  1. Un grand malentendu revient sempiternellement à propos de l'IA : ce que savent faire ces systèmes, et les systèmes informatiques en général, c'est trouver des solutions à des problèmes posés. Or, s'il faut de l'intelligence pour résoudre des problèmes, ce n'est qu'une petite partie de son domaine. Et l'intelligence consiste aussi à identifier et à poser des problèmes, ce qui est souvent bien plus difficile que de les résoudre. L'IA en est bien incapable, parce que cette démarche exige une intentionnalité, qui lui est étrangère.

    L'intelligence, souvent aidée de l'intuition, permet également de rapprocher des idées ou des notions très éloignées les unes des autres, souvent par analogie, comme le signale Melanie Mitchell, et cela aussi l'IA en est radicalement incapable. C'est pourtant ainsi que naquirent certaines des idées les plus fécondes de notre histoire intellectuelle.

    RépondreSupprimer