e-tissage

Depuis qu’un ramassis de plastique et de composants électroniques a battu des champions au jeu de go, le monde est secoué d’une nouvelle crise hystérique¹ au sujet de l’ « intelligence artificielle ». Un pic de délire a été atteint lorsque des députés européens ont préconisés la création d’une personnalité juridique spéciale pour les robots². Et pourquoi pas une personnalité juridique pour les tapis de salle de bain, tant qu’on y est ? Mais si ! puisque certains les considèrent comme un grave danger mortel… Comment en sommes nous arrivés là ???

Au départ, nous avons un terme – intelligence – qui est appliqué aux machines par analogie à l’humain³ et puis, de fils en aiguille, on voudrait nous faire croire que finalement, ce que les machines font mieux que l’humain, c’est de l’intelligence… !!! Ce serait pas un peu le monde à l’envers là ???

Que savent faire les machines ?

• calculer très très très vite
• stocker un très grand nombre d’informations, c’est-à-dire des représentations du monde selon une certaine modélisation formelle.
• trouver des liens entre des représentations. Là aussi, il faut leur fournir les représentations.

De nouvelles formes de modélisation, comme l’indexation de documents qui permet de trouver tout un document à partir de mots clés ou bien les bases de données en graphe qui mettent en évidence des connections entre un grand nombre de données ont certes permis des avancées remarquables. Pourtant, c’est bien plus sur l’augmentation des vitesses de traitements et l’augmentation phénoménale des volumes de données stockables et calculables que sont basés les récents progrès, car ils s’appuient sur des statistiques. Si on parle souvent d’« apprentissage » statistique, c’est encore une fois par analogie : là où, pour apprendre, l’humain fait intervenir son expérience et donc tout son corps, pour les machines, il ne s’agit que de calculs, c’est-à-dire de traitements sur des représentations qui lui sont fournies !

Trois points qui différencient radicalement l’intelligence humaine et la dites « intelligence » artificielle.

Les machines sont incapables de modéliser elles-mêmes le monde.

Gagner au jeu de go, c’est être capable d’envisager un très grand nombre de possibilités et de choisir la mieux adaptée pour contrer le jeu de l’adversaire. Ce n’est qu’une puissance de calcul appliquée à un problème finalement relativement simple pour un ordinateur, parce que purement rationnel. Un ordinateur peut gagner au go parce que les règles du jeu sont modélisables. Il ne s’agit pas du tout de minimiser le travail et de ceux qui réalisent des systèmes automatiques qui effectuent des tâches de plus en plus complexes. Toute la difficulté réside justement à modéliser les règles du jeu de sorte qu’elles puissent être « apprises » à un ordinateur. AlphaGo et ses congénères sont de remarquables réalisations, mais mettez les donc devant un problème de math de niveau 6e : ils ne « sauront⁴ » même pas de quoi il s’agit, alors que n’importe quel enfant a en lui ce qui va lui permettre d’appréhender puis résoudre le problème..

Les machines n’ont aucun sens de l’initiative.

Aussi fortiche soit-il pour jouer au jeu de go, il ne viendra pas à l’ « idée⁴ » d’AlphaGo d’apprendre le coréen pour mieux comprendre la stratégie de ses adversaires, ni de fonder une école pour enseigner le jeu de GO aux enfants. Pour qu’une machine élargisse sont champ d’action ou de compétence au-delà de ce qui a été prévu au départ, il faut nécessairement l’intervention d’un humain. Dans ces conditions, peut-on vraiment parler d’intelligence ??

Les mots ont un sens. L’ « intelligence » artificiel et l’ « apprentissage » machine sont des termes basés sur une analogie avec l’humain. Même si les machines font certains calculs beaucoup plus rapidement que nous, l’ « intelligence » et la capacité d’ « apprentissage » de l’humain ne se réduisent pas à ce que font ces machines. Pourtant, l’utilisation métaphorique des termes « intelligence » et « apprentissage » est à l’origine d’une inflation fantasmatique nourrie d’une sorte de complexe de Geppetto des uns et de la fascination des autres⁵.

Les machines n’ont pas de corps émotionnel et sensible.

La conception de l’intelligence comme pur produit du cerveau et réduite à un calcul rationnel est certes répandue dans le monde occidental où elle perdure, sans doute en partie parce que nos élites sont formées dans des Grandes Ecoles où on ne développe et valorise que cette forme d’intelligence, mais elle est totalement partielle !
Est-ce que la capacité à trancher une question éthique ou morale ne fait pas partie de ce que l’on appelle l’intelligence ? Idem pour la capacité à créer une solution dans une situation que l’on a jamais rencontré. Autant de situations dans lesquelles l’intelligence à laquelle nous faisons appel est ancrée dans l’ensemble de notre vécu d’être humain sensible.
A partir de ce constat, deux choix sont possibles : soit vous considérez que l’humain peut être réduit à une mécanique biologique totalement calculable. Dans ce cas, il est tout de même raisonnable de constater qu’étant donnés les pans entiers de la complexité humaine qui nous échappent encore, nous sommes encore très, très, très loin de pouvoir la reproduire artificiellement dans toute sa spécificité. L’autre choix – qui est le mien – est de considérer que l’humain est irréductible à une mécanique entièrement calculable, que dans la conscience humaine, quelque chose échappe et que par conséquent, quels que soient les progrès techniques que nous accomplirons, l’artificiel doit être considéré comme essentiellement différent du vivant en général et de l’humain en particulier. Question de vision anthropologique et de position éthique…

Sans une mise au point préalable sur ce que l’on entend par intelligence, les débats sur l’ « Intelligence Artificielle » dévient rapidement vers ce qui revient à se préoccuper des problèmes de surpopulation sur mars⁶… On peut d’ailleurs se demander à quoi bon appeler intelligence, ce qui dans les faits n’est que du calcul statistique. Je ne vois pas d’autre explication qu’une tendance à la course au hype de la part des industriels et des chercheurs concernés. Cela a pour regrettable effet d’embrouiller les débats publics sur le sujet. Le plus désolant est que de tels débats – relayés par ceux pour qui agiter le chiffon rouge de la peur fait monter les audiences – oblitèrent les vraies questions que posent le numérique. Plutôt que de s’inquiéter d’une très très très hypothétique disparition de la distinction humain / machine, avec scénarios SF de prise de pouvoir des machines, nous serions bien mieux avisés d‘observer attentivement quels sont les choix et les objectifs très très humains qui orientent les algorithmes et les collectes très très actuelles de données…

25 juin 2017, Mis à jour le 6 janv 2018, le 28 janv 2019 et le 7 mai 2020

Pour aller plus loin

• à 11:57:45, la courte intervention de Dominique Cardon, le 19 janvier 2017 lors de l’audition publique de l’Office parlementaire d’évaluation des choix scientifiques et technologiques consacrée à l’IA..
• 4 aout 2017Démythifier l’intelligence artificielle et ses prédictions apocalyptiques, France Culture, Les Discussions du soir, 22 juillet 2017
• 4 aout 2017Intelligence artificielle : pourquoi il faut différencier la réalité de la fiction, Usine Digitale, 2 août 2017
• Consultation publique sur l’IA, dec 2017-janv 2018, dans le cadre de la mission Villani, mes contributions sous le pseudo v2belleville
• Le père de Siri et celui de M for Messenger dézinguent la hype autour de l’intelligence artificielle, 28 avril 2017 trouvé le 6 janv 2018 et ajouté ici parce que ça fait du bien de voir qu’il y a des pros du domaine qui ne disent pas n’importe quoi …
• si vraiment vous n’êtes toujours pas convaincu -> “L’intelligence artificielle n’existe pas” : interview de Luc Julia, le cocréateur de Siri, à propos de son livre éponyme, par Anne Cagan, 24 janv 2019

¹ Par « hystérique » je veux dire totalement disproportionnée par rapport à la réalité de la situation. La précédente crise date des années 70s. Elle a été suivie d’une sorte de fatwa qui fin des années 90 – début 2000, lorsque je travaillais en recherche sur la reconnaissance automatique de la parole avait totalement banni le terme IA du vocabulaire des chercheurs : honte à celui qui prononçait alors ce terme tant il était associé aux divagations mégalomanes de chercheurs qui s’étaient perdus dans des promesses plus inspirées par la sciences fiction que par les possibilités réelles…

² Par chance, des conseillers de la République gardent la tête sur les épaules … Le CESE n’est pas favorable à la création d’une personnalité juridique pour les robots ou l’IA.

³ D’après le dictionnaire Larousse, l’intelligence artificielle est l’ « Ensemble de théories et de techniques mises en œuvre en vue de réaliser des machines capables de simuler l’intelligence humaine ». On a bien dit simuler… Par définition, l’IA N’EST PAS de l’intelligence, juste un dispositif qui en reproduit la forme. Yes ?

⁴ Une autre métaphore ok ? Les ordinateurs n’ont pas d’idées, ils ne savent rien. Ne nous laissons pas embrouiller par les analogies…

⁵ A quoi il faut évidement ajouter quelques petits intérêts commerciaux : Google, propriétaire de la société DeepMind qui a conçu AlphaGo n’est pas le moteur de recherche numéro un en Asie. Or en Chine et en Corée, les matchs contre AlphaGo ont été vus par des dizaines de millions de personnes … Intelligence artificielle : les leçons d’une victoire

⁶ « Fearing a rise of killer robots is like worrying about overpopulation on Mars » Andrew Ng cité par Dominique Cardon le 19 janvier 2017 lors de l’audition publique de l’Office parlementaire d’évaluation des choix scientifiques et technologiques consacrée à l’IA. La courte intervention de Dominique Cardon, très éclairante sur le sujet à 11:57:45.