Cette question de l’apprentissage est centrale, car elle est au cœur des techniques dites de « machine learning » ou de « deep learning » permettant aux algorithmes de se perfectionner en « apprenant ». Elle est également la source de nombreuses inquiétudes, car elle invoque l’idée d’une machine capable d’apprendre, et donc d’évoluer de manière autonome. Est-elle indissociable de l’IA ? Celle-ci doit-elle forcément être une machine apprenante ?
Oui, et dès le départ. Avant même que le terme IA n’existe, Alan Turing écrivait en 1950 deux articles définissant ce qu’est une machine qui pense. Dans l’un d’eux, il explique qu’il y a deux problèmes principaux. Tout d’abord, il faut des machines assez puissantes. Ensuite, il faut être capable de programmer ces machines pour qu’elles puissent réaliser des tâches suffisamment complexes. Il imagine également le « test de Turing ».
Pour simplifier le problème de l’intelligence artificielle, Turing introduit avec son fameux test le « jeu de l’imitation ». Le principe de celui-ci est le suivant : un interrogateur discute à l’aveugle et par écrit avec un homme et une femme, en sachant que l’homme tente de se faire passer pour la femme. Le but de l’interrogateur est de poser des questions pour déterminer qui est la femme. Ensuite, on remplace l’homme imitant la femme par un ordinateur imitant celui-ci.
La question qui se pose est de savoir comment programmer la machine pour jouer au jeu de l’imitation. Dès 1950, Turing explique qu’il faut beaucoup de connaissances. Par exemple, il imagine toute une série de dialogues et dans l’un d’eux l’interrogateur demande : « Quelle est la longueur de vos cheveux ? » et la machine répond : « Mi-longs, je suis coiffée à la garçonne ». Pour faire cette réponse, il faut un nombre considérable de connaissances sur le monde. Or, dit Turing, ces connaissances, soit on les donne à la machine – mais ça risque d’être très long –, soit on suppose que la machine les acquiert d’elle-même. Dans ce cas, il faut qu’elle soit capable d’apprendre.
Donc effectivement, dès le départ, cette notion de machine capable d’apprendre est centrale. Il faut aussi avoir en tête qu’au même moment que Turing, la cybernétique se développe. Et celle-ci se pose la même question que lui. De même, l’idée de réseau de neurones a été imaginée avant même Turing, par Warren McCulloch et Walter Pitts en 1943, alors que l’ordinateur n’existait pas encore. Quelques années plus tard, un jeune chercheur fera sa thèse sur ce sujet. Il s’agit de Marvin Minsky et c’est comme cela qu’il contribuera à faire naître l’intelligence artificielle.
L’histoire se poursuit en 1958 avec un autre chercheur de la génération de Marvin Minsky, Frank Rosenblatt. Celui-ci imagine un système qui apprend sur deux couches et qu’il baptise le Perceptron. Celui-ci fonctionne avec une couche d’entrée et une couche de sortie, dont on est capable d’adapter les pondérations. Ce Perceptron est assez efficace, mais pose un problème : soit on a deux couches et on a des algorithmes efficaces mais ne pouvant apprendre que des formes triviales, soit on a plus de couches mais on a des algorithmes d’une complexité, et donc d’un coût, rédhibitoires.
Les Perceptron vont donc connaître un coup d’arrêt, qui va durer jusqu’en 1985. Plusieurs chercheurs, dont le Français Yann Le Cun, développent la technique dite de « rétropropagation du gradient » qui a permis de faire travailler des algorithmes sur plus que deux couches, ouvrant ainsi la voie aux réseaux de neurones. Ces travaux ont permis de développer une théorie statistique de l’apprentissage et de développer des systèmes d’apprentissage. Quelques années plus tard, grâce à l’acharnement de Yann Le Cun et d’autres et au développement de la puissance des machines, on a réussi à développer des systèmes avec douze couches, puis treize, puis quinze… On a également affiné avec des couches qui apprennent ou d’autres qui n’apprennent pas, mais qui jouent le rôle de filtre. Et c’est tout ça qui donnera naissance à ce que l’on appelle le « deep learning ».
Mais à quoi sert aujourd’hui l’intelligence artificielle ? À écouter les débats, on a l’impression qu’elle est partout, sur Internet, dans la publicité, l’assurance, la banque… mais on a du mal à se représenter concrètement comment et sur quoi elle agit.
Presque toute la vie sociale, à part si vous allez juste boire un verre au bistrot, se passe par les réseaux. Vous échangez des mails, des tweets, des DM, des snapchats, etc. Cela veut dire que tous ces échanges sont numérisés. Si c’est numérisé, on peut l’exploiter grâce aux technologies actuelles. Et ça a ensuite un nombre d’applications infini. Dans tous les secteurs d’activité, on peut imaginer qu’on va utiliser ces données pour faire de la prédiction ou du diagnostic. Avec ça, on peut tout d’abord faire de la prévention du risque, qui intéresse beaucoup les assurances et les banques.
Cela entraîne toute une série de menaces pour les citoyens. Celles-ci sont extrêmement bien expliquées dans un livre indispensable sur le sujet, mais malheureusement pas encore sorti en France, Weapons of Math Destruction de Cathy O’Neil.
Quelles sont ces menaces ?
Quand l’intelligence artificielle sert à développer une application permettant de prendre en photo un grain de beauté afin de détecter un éventuel mélanome, c’est une très bonne chose. Mais ces systèmes prédictifs peuvent aussi être mal utilisés. Pourquoi ? Le début de l’âge moderne, à lire Machiavel, c’est passer des augures et de la divination à la prédiction. L’homme politique moderne doit envisager toutes les alternatives et, à partir de ça, regarder la plausibilité de chacune et agir rationnellement en fonction.
De ce point de vue, l’intelligence artificielle est donc plutôt une bonne chose. Sauf que, avec des systèmes prédictifs utilisés sur de très larges échelles, il y a de nombreux dangers. Tout d’abord, ils peuvent fonctionner sur de mauvais critères, injustes par nature. Ensuite, s’ils sont utilisés largement, ils peuvent transformer la société.
Prenons un exemple simple, celui des assurances automobile. L’idée commune serait qu’il est mieux de faire payer les gens en fonction des risques qu’ils prennent. C’est ce qui se passe aujourd’hui avec le système des bonus/malus, qui fait que les chauffards payent plus. Mais on peut faire encore mieux et utiliser un système prédictif : on regarde le profil de la personne et on calcule ses risques d’avoir un accident. Mais pour cela, il faut des critères. Et quand on regarde les critères utilisables, on se rend compte que l’un d’entre eux fonctionne très bien : le code postal. En effet, si vous habitez dans le 93, vous avez statistiquement plus de chances d’avoir un accident.
La statistique, en elle-même, est juste. Mais ce qu’il ne faut pas perdre de vue, c’est qu’il s’agit d’une corrélation et non d’une causalité. Ce n’est pas parce que vous habitez dans le 93 que vous êtes un chauffard, mais simplement qu’il y a peut-être plus de chauffards autour de vous. Le fait de vous faire payer plus cher votre assurance auto est donc totalement injuste.
Sans compter que les assureurs vont même plus loin que ça. Car au fond, leur véritable préoccupation, ce n’est pas de connaître le risque d’accident mais plutôt de savoir jusqu’à combien les assurés sont capables de payer. Et ça aussi on peut le calculer et, par exemple, faire payer plus ceux qui sont le moins susceptibles de passer chez un autre assureur.
Il ne s’agit là que d’un seul exemple du caractère diabolique que peuvent avoir ces systèmes prédictifs. Et c’est là que réside le danger réel de l’intelligence artificielle. Nous avons parlé de l’assurance mais, aux États-Unis par exemple, les systèmes prédictifs sont déjà utilisés dans la prison pour prévoir la récidive.
Il y a également de nombreuses questions sur l’efficacité réelle de ces algorithmes prédictifs. Les résultats donnés par certains systèmes de police prédictive ont notamment été mis en cause. Et concernant la reconnaissance faciale, récemment,une expérience menée par la police de Londres durant le Carnaval de Notting Hill a débouché sur 35 cas de « faux positifs » et l’arrestation d’un innocent.
Chaque système d’intelligence artificielle a des limites. Déjà parce qu’il est employé dans un contexte. Si vous faites de la reconnaissance faciale devant votre ordinateur, avec une lumière à peu près correcte et que vous êtes habillé normalement, ça fonctionnera très bien. Si vous êtes dans la rue, avec des qualités d’image dégradées, des photos prises de côté et non de face, que vous êtes au milieu d’une foule… ça ne peut pas marcher. Faire ça, comme le voulait Christian Estrosi, dans un stade de foot alors que les gens sont grimés et perruqués, ça n’a aucun sens.
Il y a des systèmes qui marchent parce qu’il y a des corrélations. Mais il y a également des trucs scandaleux. On se souvient qu’il y a quelques semaines, certains ont prétendu pouvoir prédire si quelqu’un est homosexuel.
Nous sommes dans un drôle de monde où des gens font des annonces pour rien. Dernièrement, Oxford a fait un papier expliquant que dans 50 ans, 90 % des métiers auront disparu. Sa lecture est à se rouler par terre. Pour l’écrire, ils sont allés dans deux conférences d’intelligence artificielle où ils ont interviewé des chercheurs pour leur demander, à leur avis, quels métiers risquaient de disparaître. Ils n’ont eu que 20 % de taux de réponse, ce qui n’est pas terrible. Et ceux qui ont répondu ont donné comme métier traducteur.
Désolé, mais c’est totalement stupide ! Qu’est-ce qu’un chercheur en intelligence artificielle connaît de la traduction ? Oui, nous pourrons à terme avoir des traducteurs automatiques qui pourront traiter correctement une lettre d’embauche ou un mail. Mais vous pensez vraiment qu’on pourra ainsi traduire Heidegger en 2024 ? C’est n’importe quoi !
Quelles sont les limites de l’intelligence artificielle ?
Il faut tout d’abord que les problèmes soient bien posés. Et parfois, ils sont mal posés. Par exemple, dire « on va faire de la traduction », je ne suis pas sûr que ce soit bien posé. On va seulement être capable de traduire dans tel contexte tel type de chose.
Il y a ensuite plusieurs limites. Par exemple, dans le domaine social, nous ne sommes pas capables de tout faire. Si vous mettez un système dans un milieu social, il va interagir avec celui-ci. Il y aura donc un effet en retour. C’est également le cas à la Bourse. Il existe des systèmes de prédiction des cours très efficaces à court terme. Mais vu que tout le monde aura les mêmes systèmes, ça aura un effet sur les cours eux-mêmes.
Dans votre livre, Le Mythe de la Singularité, vous dénoncez les chercheurs et spécialistes annonçant l’arrivée d’une IA autonome qui serait capable de supplanter l’humanité. Pouvez-vous expliquer pourquoi ?
Ces gens nous prennent pour des imbéciles. En tant que scientifique, il faut le dénoncer. Il y a deux ans, une première lettre ouverte a paru dans laquelle on nous expliquait qu’il allait y avoir des armes autonomes qui constitueraient une nouvelle génération dans la guerre. Il y aurait, dans l’Histoire, la poudre à canon, l’arme atomique et maintenant nous serions à l’âge des armes autonomes, des armes capables de choisir elles-mêmes leur cible. C’est bien entendu terrifiant. Comment ne pas s’associer à eux ? Comment ne pas être contre l’industrie militaire ?
Mais qu’est-ce que l’on entend par « autonome » ? Là réside en fait une ambiguïté sur laquelle ces gens jouent. Il ne s’agit pas des drones, ils existent déjà. De même, il ne s’agit pas des mines antipersonnel ni d’armes à détecteurs de mouvement ou à signature thermique. La différence, c’est que les armes dont on nous parle choisissent d’elles-mêmes leurs cibles.
Or pour pouvoir faire ça, ces armes devraient être capables de définir ce qu’est un ennemi. Vous avez une idée, vous, de ce qu’est un ennemi ? Même dans le cas des révélations des Drone Papers, qui ont montré que l’armée américaine tue en fonction de données électroniques, il y a un humain derrière. En réalité, dans ces nouvelles armes qu’on nous annonce, il n’y a aucune rupture avec ce qui existe déjà, il n’y a pas de nouveau type de guerre qui s’annonce.
Ce qui me met mal à l’aise, c’est que les gens qui font ce genre d’annonces se mettent ainsi dans une posture généreuse, qui fait penser à celle d’Einstein ou de Russell après la bombe atomique. Alors qu’en réalité, la situation n’a rien à voir.
Elon Musk nous dit qu’il a peur de l’intelligence artificielle parce qu’elle va nous dépasser. Et vu que ce monsieur est très généreux, il se propose bien entendu de nous aider. Pour cela, il a créé la société Neuralink, dont le but est d’équiper les hommes avec des dispositifs électroniques qui leur permettront de rivaliser avec les machines. Et là, on se fout vraiment du monde. Car en quoi consiste le projet d’Elon Musk ? Tout simplement à greffer un disque dur sur les cerveaux des gens !
Les implants sont en effet déjà quelque chose de connu. Ça peut même très certainement avoir des applications thérapeutiques, par exemple pour la maladie de Parkinson. En revanche, personne n’a l’ombre d’une idée sur comment brancher un disque dur sur un cerveau. Quand on regarde toutes ces déclarations et tous ces projets avec un œil scientifique, on se rend compte qu’il y a toujours des impasses.
D’où vient ce mythe de la Singularité ?
C’est une affaire qui a été engagée très tôt. Dès qu’il y a eu les premières machines, des matheux se sont demandé ce qui se passerait si elles devenaient hyper intelligentes. Ils ont importé des mathématiques le concept de Singularité, pour désigner le moment où la machine sera si intelligente qu’elle prendra le dessus sur l’homme.
Mais tout cela relevait de l’imaginaire. Ensuite, des auteurs de science-fiction, comme Vernor Vinge dans les années 90, se sont emparés de ce concept de Singularité et ont travaillé dessus. Ce qui est plus récent, et plus inquiétant, c’est que des ingénieurs ont repris cette idée en la présentant comme une réalité. Avec des gens comme le roboticien Hans Moravec ou l’informaticien Ray Kurzweil, ce qui relevait de l’imaginaire est devenu une affirmation.
Enfin, ces dernières années, nous voyons de grandes entreprises qui donnent crédit à ce type de fables. Google, par exemple, a embauché Ray Kurzweil et finance son université de la Singularité. Parmi les autres gourous de la Singularité, on peut également citer Nick Bostrom qui est, lui, financé par Elon Musk.
Le problème est que ces personnes utilisent des arguments qui ne sont pas pertinents. Ils nous affirment que, grâce à l’apprentissage, nous allons avoir des machines qui nous échappent parce que l’une d’elles a battu l’homme au jeu de go par exemple, et que cela montre qu’elle lui est supérieure.
Mais ce n’est pas parce que la machine nous échappe sur une tâche particulière qu’elle va prendre son autonomie au sens philosophique. Pour cela, il faudrait qu’elle puisse décider d’elle-même ce qu’elle veut faire, et qu’elle puisse opposer cette volonté à la nôtre.
Or jusqu’à présent, nous n’avons aucun élément allant dans ce sens. On dit en fait que la machine va avoir une « conscience ». Cela voudrait donc dire qu’elle aurait conscience d’elle-même et qu’elle agirait pour elle, et non pour nous. Et ça, c’est dérisoire et c’est important de le dénoncer.
La recherche en intelligence artificielle a donné naissance à des algorithmes dits « prédictifs », de plus en plus utilisés que ce soit dans un but commercial ou par les autorités dans le domaine de la sécurité, de la santé, de la justice. Certains s’inquiètent de cette évolution pour nos démocraties, dont la chercheuse belge Antoinette Rouvroy qui parle d’une « gouvernementalité algorithmique ». Partagez-vous ces craintes ?
Antoinette Rouvroy a totalement raison. Et c’est bien le problème de ces fables et de ces peurs inventées : elles masquent la réalité du monde dans lequel nous entrons. Tout se transforme. Notre vie sociale est entièrement numérisée. À partir de là, nous avons des systèmes qui vont prendre des décisions sur la foi de données qui auront été enregistrées et, éventuellement, de prédictions.
Nous mettons dans notre société de plus en plus de systèmes qui prennent des décisions à la place des hommes. Cela a pour conséquence une déresponsabilisation. Prenons un cas extrême, mais qui pourrait bien se produire un jour : un médecin dispose d’une machine analysant les patients pour déterminer quels médicaments il faut lui donner. Imaginons que ce médecin, de par son analyse et son expérience, arrive à un diagnostic différent de celui de la machine. Il risque de se dire que, s’il donne un remède différent de celui prescrit par la machine, il verra sa responsabilité engagée en cas de complication. Il aura donc tendance, naturellement, à se conformer à l’avis de la machine.
La responsabilité implique par définition de prendre un risque. S’il y a une machine qui peut endosser la responsabilité à votre place, vous serez incité à vous plier à ses décisions.
On laisse entendre que la machine, étant systématique, est objective. C’est très différent. « Systématique », cela signifie que l’on fait toujours la même chose, qu’il n’y a pas de subjectivité à l’intérieur, mais ça ne veut pas dire que c’est objectif. Il peut très bien y avoir une subjectivité qui est celle de ses concepteurs.
Ce nouveau monde dans lequel nous entrons est étrange, car il se fonde sur le passé pour envisager l’avenir. Et ce monde a de multiples défauts. J’ai parlé de la responsabilité qui disparaît, et donc de la liberté qui disparaît. Il a également un vice fondamental. Une induction a un axiome général qui est un axiome d’uniformité. Si toutes les choses, si toutes les lois sont identiques, toutes les choses que j’ai observées par le passé vont toujours se faire de la même façon. Si je vois des cygnes et qu’ils sont tous blancs, vous pouvez faire l’induction que tous les cygnes sont blancs.
Mais dans l’espace social, ce n’est pas si simple. Prenons la loi de Moore, qui dit que le progrès est exponentiel. Mais ce n’est pas parce qu’il a toujours été exponentiel qu’il sera toujours exponentiel, car les conditions initiales du progrès n’étaient pas les mêmes il y a 50 ans, 10 ans, 5 ans… On ne peut pas avoir une confiance totale en des règles empiriques.
Ça peut en outre avoir des effets très pernicieux. Si vous mettez un système prédictif dans la vie sociale, les hommes vont prendre en compte ce système dans leurs propres actions. Si vous avez un système qui prédit le crime et qui déploie ses policiers en fonction de ces prédictions, les délinquants vont comprendre le système et agir en sorte de le démentir.
/http%3A%2F%2Fcdn.liberte-algerie.com%2Fimages%2Farticle%2Fthumbs%2Fd-les-elites-simpliquent-b2b4d.jpg)
/http%3A%2F%2Fwww.lequotidien-oran.com%2Fpdfs%2F20022019.gif)
/image%2F0932234%2F20190209%2Fob_3cda48_chitour-chems.jpg)
/http%3A%2F%2Fcdn.liberte-algerie.com%2Fimages%2Farticle%2Fthumbs%2Fd-309014lautre-campagne-des-idees-de-nabni-5a6aa.jpg)