mardi 17 mars 2020

Vers un troisième « hiver de l'IA » ?

(Cet épisode fait partie de la série "Dynamique et ressort de l'intelligence artificielle".)

Épisode précédent :  Vers un troisième « hiver de l'IA » ?

Ce survol de l’histoire nous montre que l’IA a connu trois versions lors de chacune desquelles elle s’est donné un but particulier (simuler le raisonnement humain, automatiser l’expertise, informatiser le diagnostic). Chaque IA a connu le même parcours : annonces optimistes, premiers succès, puis difficultés imprévues et constat d’erreurs, enfin (pour les deux premières) « hiver » et gel de la recherche. La troisième IA est aujourd’hui confrontée à l’étape des difficultés et des erreurs. L’échec de Watson dans le diagnostic du cancer a frappé les esprits :

« Internal IBM documents show that its Watson supercomputer often spit out erroneous cancer treatment advice and that company medical specialists and customers identified “multiple examples of unsafe and incorrect treatment recommendations” »
(Casey Ross et Ike Swetlitz, « IBM’s Watson supercomputer recommended ‘unsafe and incorrect’ cancer treatments, internal documents show. », STAT, 25 juillet 2018.)

Certaines erreurs peuvent avoir de graves conséquences pour les personnes concernées :
« Dong Mingzhu, president of Chian's biggest air conditioning maker, had her image flashed up on a public display screen in the city of Ningbo, near Shanghai, with a caption saying she had illegally crossed the street on a red light. But Ningbo's facial recognition cameras had actually only caught an advert featuring her face on the side of a passing bus – a fact quickly spotted by Chinese citizens, who shared pictures of the alert on Weibo, a social network similar to Twitter. »
(Laurence Dodds, « Chinese businesswoman accused of jaywalking after AI camera spots her face on an advert », The Telegraph, 25 novembre 2018.)

Des essayistes évoquent avec insistance « les limites de l’intelligence artificielle15 ». L’examen des difficultés et erreurs montre qu’elles proviennent non des outils et méthodes de l’IA eux-mêmes, mais de trois problèmes distincts :
  • la qualité des données sur lesquelles l’IA est étalonnée ;
  • l’interprétation des résultats ;
  • la complexité de la relation entre l’informatique et l’action.

Pour comprendre la situation présente il faut replacer l'IA dans le cadre que Turing a considéré, celui de l'informatisation dont elle est une manifestation particulière.

Épisode suivant :  Place de l'IA dans l'informatisation
___
15 Jérôme Capirossi, « Les limites de l’intelligence artificielle », Les Échos}, 22 janvier 2018.

Aucun commentaire:

Enregistrer un commentaire