Intelligence artificielle: les mythes qui masquent les dangers réels

Par

Le gouvernement dévoile vendredi les résultats d’une consultation menée depuis un an par la Cnil sur la question de l’intelligence artificielle. Mediapart a interrogé le chercheur Jean-Gabriel Ganascia, auteur de plusieurs livres sur le sujet, dont Le Mythe de la singularité. Selon lui, les prophéties apocalyptiques sur des intelligences artificielles qui supplanteraient l’humanité ne sont que « des fables » masquant « la réalité du monde dans lequel nous entrons ».

Cet article est en accès libre. Découvrez notre offre spéciale ! S'abonner

Les intelligences artificielles suscitent la même fascination et les mêmes peurs que le nucléaire au XXe siècle. Véritable révolution industrielle, elles sont déjà utilisées au quotidien par les quelque 3,5 milliards d’internautes du monde entier. Sous la forme d’algorithmes, elles sont déjà sollicitées pour tous les systèmes de recommandation et de prédiction, mais également pour la reconnaissance faciale, dans la médecine, la prévention du crime, la finance…

À côté de ces utilisations déjà répandues, et parfois méconnues, l’intelligence artificielle est à l’origine de craintes et d’espoirs parfois irrationnels. On ne compte plus les gourous, les instituts et les centres de recherche annonçant l’avènement d’une nouvelle ère où les intelligences artificielles, devenues autonomes, seraient l’égal d’une humanité désormais augmentée.

Ce moment de basculement à venir est désigné par le terme « Singularité ». Depuis le mois de novembre dernier, l’intelligence artificielle a même sa propre église, Way of the Future, fondée par le pionner de la robotique Anthony Levandowski.

130999-couverture-hres-0
Ce mysticisme tourne chez certains aux prévisions apocalyptiques. Ces dernières années, de nombreuses personnalités du monde des sciences et de la technologie ont multiplié les tribunes catastrophiques. En 2015, un millier d’experts avaient ainsi signé une retentissante lettre ouverte alertant sur la possibilité de voir apparaître « des armes autonomes offensives », des robots tueurs qui pourraient éradiquer l’humanité.

Parmi les signataires, se trouvaient Stephen Hawking ainsi que des responsables des plus grandes entreprises de la Silicon Valley : le patron de Tesla Elon Musk, le cofondateur d’Apple Steve Wozniak ou encore Demis Hassabis, patron de DeepMind, un projet d’intelligence artificielle de Google.

Beaucoup dénoncent le double discours de ces gourous de la Singularité qui, au sein de leurs entreprises, multiplient les projets en intelligence artificielle. D’autant que, à y regarder de plus près, les progrès de l’intelligence artificielle telle que fantasmée dans les ouvrages de science-fiction ne sont pas si impressionnants qu’il n’y paraît. Au mois de novembre dernier, l’« AI Index », un programme international de surveillance des progrès en intelligence artificielle, a rendu un rapport soulignant la modestie des avancées dans ce domaine. Sur le site du MIT, Michael Wooldridge, chercheur à l’université d’Oxford, n’hésite pas à comparer l’engouement actuel à la bulle internet du début des années 2000.

Alors que la Commission nationale informatique et libertés (Cnil) doit présenter, vendredi 15 décembre, les conclusions d’une vaste consultation entamée en janvier 2017, Mediapart a rencontré Jean-Gabriel Ganiasca, spécialiste en intelligence artificielle à l’université Pierre-et-Marie-Curie et auteur de plusieurs ouvrages sur le sujet dont, le dernier, Le Mythe de la Singularité. Faut-il craindre l’intelligence artificielle ? (Seuil, février 2017).

Comment expliquer simplement ce qu’est une intelligence artificielle ?

Il y a déjà une question de syntaxe à éclaircir : l’expression « une intelligence artificielle » est couramment employée, alors qu’elle n’a selon moi pas vraiment de sens. L’expression « l’intelligence artificielle », avec un article défini, en revanche en a un : il s’agit d’une discipline scientifique précise. Celle-ci est née en 1955 lorsque deux jeunes chercheurs, John McCarthy et Marvin Minsky, organisent avec l’aide de deux scientifiques, Claude Shannon et Nathan Rochester, un projet d’école d’été visant à étudier l’intelligence avec des machines. Leur texte expliquait : « L’étude doit se fonder sur la conjecture selon laquelle chaque aspect de l’apprentissage ou de toute autre caractéristique de l’intelligence pourrait être décrit si précisément qu’une machine pourrait être fabriquée pour la simuler. »

Mais comment étudier l’intelligence avec des machines ? Tout d’abord, il faut se dire que l’intelligence, ce n’est pas une chose mais une pluralité. Donc on peut déjà dire que l’intelligence artificielle ne définit pas l’intelligence puisque, par définition, elle essaye de l’approcher. Et ce qu’elle dit, c’est que toutes les facultés, les fonctions, qui contribuent à ce qu’on appelle l’intelligence, on va essayer de les décomposer et de les simuler avec une machine. Cela implique la perception, le raisonnement, la mémoire, la démonstration, le langage, etc.

Il y a ensuite ce que l’on appelle une intelligence artificielle. Cette expression prête à confusion. Il s’agit en fait de l’intelligence avec les moyens de l’artificiel. Mais derrière, il y a en même temps l’idée d’une entité qui, tout d’un coup, va être douée d’intelligence. Il y a donc un malentendu fondamental entre ce qu’est l’intelligence artificielle comme science et cette intelligence artificielle qui intéresse le plus les médias, les écrivains et les réalisateurs et qui serait une sorte d’entité douée d’intelligence.

Concrètement, en quoi consiste donc la recherche en intelligence artificielle ?

Comme je l’ai dit, l’intelligence artificielle en tant que domaine de recherche touche à toutes les fonctions cognitives, c’est-à-dire à tout ce qui nous permet d’appréhender le monde et d’y agir. Reprenons tout simplement le traité De Anima d’Aristote. Cette « anima » y est définie comme « le souffle de vie », c’est-à-dire l’âme non pas au sens chrétien, mais au sens rationnel. Pour Aristote, cette anima, c’est tout d’abord des sensations, des sens. À partir de ceux-ci, on va construire une représentation, une interprétation des données fournies par les organes des sens. C’est la perception. Après, il y a la représentation, c’est-à-dire le stockage en mémoire et l’organisation des connaissances. Et enfin, il y a la volonté qui fait que l’individu va décider d’agir en fonction d’un but qu’il s’est fixé.

On retrouve ce même schéma en intelligence artificielle. Il y a des capteurs. Ensuite, l’interprétation des signaux qui viennent des capteurs. Cela correspond à tout ce qui est reconnaissance des images, des formes, de la voix, du mouvement de l’iris… de tout ce que vous voulez. Une fois que vous avez construit cette perception, il faut la stocker : c’est ce que l’on appelle la représentation des connaissances. Celle-ci implique toute une série de questions dans le domaine de la logique, qui font que ce n’est pas juste des bits qui sont stockés mais une réelle organisation de la connaissance. Il faut également se demander ce qu’est une mémoire et comment la simuler. Et enfin, il y a la prise de décision.

Tout cela dresse déjà un panorama extrêmement vaste de ce que recouvre la recherche en intelligence artificielle. Et il faut encore y ajouter les questions de communication et d’apprentissage.

Prolongez la lecture de Mediapart Accès illimité au Journal contribution libre au Club Profitez de notre offre spéciale