Dans un avenir pas si lointain, Johannesburg, pourrie par la criminalité, devient la première ville à déployer une flotte de droïdes de police robotisés autonomes. Au début, les machines semblent être une solution efficace. La criminalité baisse considérablement et le projet est salué comme un succès - jusqu'à ce que quelque chose ne tourne pas rond. Des gangsters de rap-rave à la recherche d'un dépannage rapide détournent un droïde endommagé sur le point d'être démoli. Avec l'aide d'un ingénieur contraint au poing, ils reprogramment le droïde, nommé Chappie, en tant qu'agent autonome, créant ainsi la singularité, le point où l'intelligence artificielle devient plus intelligente que l'intelligence humaine.
Comme la plupart des bonnes œuvres de science-fiction, Chappie , le nouveau film du réalisateur Neill Blomkamp, commente la nature humaine et les problèmes actuels, y compris la pauvreté, la criminalité, la discrimination, les brimades et les brutalités policières. Mais cela soulève également des questions plus pressantes sur ce que beaucoup pensent, pour le meilleur ou pour le pire, sera l’émergence inévitable de l’intelligence artificielle sensible.
«Dans le passé, dans l'ensemble, tout ce que les hommes ont conçu, indépendamment de l'éthique et de la morale, a été mis à l'essai et, si possible, réalisé», déclare Wolfgang Fink, physicien à l'Université de l'Arizona et au California Institute of Technology. . "Des systèmes autonomes vont émerger si quelqu'un trouve comment les créer - c'est une donnée."
En effet, de nombreux scientifiques, dont Fink, poursuivent fébrilement cette voie de recherche et des progrès ont déjà été réalisés. À part Chappie, une grande partie de la robotique décrite dans le film est en fait déjà disponible ou sur le point de l'être. Des robots télécommandés similaires à Moose du film - une machine à la mort imposante rappelant l' ED-209 de Robocop exploitée par le policier dérangé de Hugh Jackman - existent aujourd'hui.
De même, des robots tels que les droïdes de la police Chappie, programmés comme des systèmes basés sur des règles et intelligemment artificiels, mais dépourvus de conscience de soi et d’autonomie, sont presque prêts, bien que leur autonomie et leur agilité ne correspondent pas encore à celles des modèles illustrés en patrouille. rues de Johannesburg. Si et quand de telles machines sont déployées, cependant, cela ne sera peut-être pas aussi radical à accepter pour nous. «Nous maîtrisons très bien les changements environnementaux, y compris technologiques, et nous y habituons», explique Ali Mattu, psychologue clinicien au Columbia University Medical Center et créateur de Brain Knows Better, un blog de psychologie de science-fiction. «À mesure que les robots font partie de notre quotidien, je pense qu’à certains égards, ils peuvent sembler homogènes.»
Un droïde de police, cependant, ne fait pas un être autonome. Un être véritablement autonome et conscient de lui-même, comme Chappie, constituerait un départ par rapport à tout ce qui a été vu auparavant. «Depuis l'époque de Neandertal, nous n'avions jamais vraiment eu le potentiel de travailler en collaboration avec une toute nouvelle espèce intelligente», explique Mattu. "Si nous pouvons surmonter les obstacles au partage de l'empathie avec une forme de vie artificielle, cela pourrait alors conduire à un âge incroyable pour l'humanité."
Le matériel n'est pas l'obstacle qui empêche un tel être d'émerger - c'est simplement une tâche d'ingénierie, dit Fink. Au lieu de cela, créer le logiciel - le fantôme de la machine - constitue le véritable défi. Les chercheurs ont deux approches différentes face à ce problème. Certains essaient de créer un sentient prêt à charger à partir de rien, alors que d’autres pensent qu’écrire un programme de base doté des outils nécessaires pour apprendre, s’adapter et se modifier au fil de l’expérience - comme le montre Chappie - est la voie à suivre . Comme l'explique Fink: «Il s'agit soit de déjà cuire la tarte et de l'introduire dans le système, soit de donner au système les ingrédients pour la tarte et de laisser le système le cuire».
Lorsque la percée aura lieu, il est fort probable que cela se produira non pas progressivement, mais tout à coup, comme le montre Chappie . Fink prédit que, plutôt qu'une université, un gouvernement ou une entreprise prenant le crédit, les perturbations qui conduisent à la singularité seront assurées par une petite équipe de chercheurs ou même un seul individu, probablement soutenu par un riche bailleur de fonds privé, animé par la liberté. expérimenter et se libérer de la recherche traditionnelle conservatrice. En fait, c'est presque le scénario de Chappie : Chappie est créé non pas par une énorme entreprise, mais par un ingénieur autonome, interprété par Dev Patel, qui utilise toutes les ressources fournies par son travail journalier pour soutenir son propre travail très différent. sur l'intelligence artificielle autonome de nuit.
Une fois que l'intelligence artificielle véritablement autonome aura émergé, il sera impossible d'anticiper la complexité du système ou la direction dans laquelle il évoluera. Contrairement aux systèmes organiques tels que nous, il ne serait pas limité par la lente évolution de l’évolution biologique. Son développement serait explosif. Rien ne garantit qu'un tel système adopterait ou conserverait un ensemble de valeurs morales ou éthiques - ou que ces valeurs s'étendraient à l'homme. Dans le cas de Chappie - qui se développe beaucoup comme un enfant humain, apprenant et mûrissant avec le temps -, la promesse précoce de ne pas nuire à l'homme contribue grandement à contrôler les actions du robot. Mais quand il est menacé d’annihilation, Chappie, comme beaucoup d’êtres humains, écarte largement sa morale et agit par pure intérêt, se défendant même si cela implique de blesser les autres.
Et bien que Chappie apparaisse comme relatable et humaine, un robot sensible du monde réel ne respecterait probablement pas un raisonnement semblable à l'homme, ce qui réduirait notre capacité à anticiper ses actions ou à comprendre ses motivations. «Une fois que vous avez atteint ce niveau, vous avez essentiellement perdu le contrôle du système», explique Fink. "C'est à la fois excitant et effrayant, car ce ne sera pas humain."
De plus, que le logiciel habite initialement la coque d'un robot humanoïde ressemblant à Chappie, un vaisseau spatial ou même un implant dans votre corps, une fois qu'il aura échappé aux limites de cette forme physique, comme décrit (bien que très dévalorisé) dans Transcendence, être presque impossible de le contenir.
Alors que des livres de science-fiction et des films abordent la question de l'intelligence artificielle depuis des décennies, M. Fink souligne que la percée nécessaire «pourrait littéralement se produire à tout moment maintenant». Tout le monde n'est pas à l'aise avec cela. En janvier dernier, Elon Musk, cofondateur de PayPal et PDG de Tesla Motors, a fait un don de 10 millions de dollars pour empêcher les seigneurs de robots de s'emparer de la planète et de nous éliminer. En tentant de créer une intelligence artificielle autonome, prévient-il, nous «convoquons le démon».
Musk n'est pas seul dans son inquiétude face à cette ligne de recherche. Bill Gates, cofondateur et philanthrope de Microsoft, écrivait récemment dans un fil de discussion Reddit qu'il se trouvait "dans le camp préoccupé par la super intelligence" et "ne comprend pas pourquoi certaines personnes ne sont pas préoccupées" par la fabrication artificielle des êtres qui dépassent nos propres capacités cognitives et acquièrent une autonomie. Le physicien Stephen Hawkings partage également cette inquiétude et l'exprime encore plus clairement: "Le développement d'une intelligence artificielle totale pourrait sonner le glas de la race humaine", a-t-il déclaré à la BBC.
Même les films à succès de bandes dessinées marchent sur ce sentier usé, normalement réservé au genre science-fiction. Comme l'indique la dernière bande-annonce de Avengers: Age of Ultron de Marvel, les héros du film se battent contre un robot qui avait été créé à l'origine pour sauver la planète de la guerre, mais qui décidait au contraire d'exterminer l'humanité.
Sur le revers, cependant, les humains pourraient être les agresseurs, menaçant l'existence des êtres autonomes que nous créons nous-mêmes, comme le décrit Chappie . Mattu dit que le fait de savoir si nous poursuivons sur la voie pacifique dépend essentiellement de deux choses: si nous pouvons communiquer avec les robots et si nous avons de l’empathie pour eux. Ce dernier, explique-t-il, dépend de facteurs apparemment superficiels, tels que l'apparence des robots: ont-ils des yeux? Sont-ils semblables, mais pas trop, à nous? Et si elles semblent généralement sympathiques. Partager les mêmes objectifs que nous aiderait également leur cas. Ces facteurs ont une influence sur notre tendance neurologique innée à catégoriser les autres en tant que membres de notre groupe interne de confiance ou en tant que membres d'un groupe externe potentiellement menaçant. Les robotistes tiennent compte de ces facteurs psychologiques dans la conception de leurs dernières machines.
Mattu souligne cependant que même si les robots satisfont à toutes ces conditions préalables, rien ne garantit que tout ira bien. "Les humains ont assez de difficulté à se voir comme des êtres humains, sans parler de l'IA ou de la vie extraterrestre", déclare Mattu. "Nous avons également une histoire de premiers contacts très mal."
Il se peut donc que nous détruisions notre création avant même de la connaître, ou que l’inverse devienne réalité: nos progiciels nous rendent tous esclaves comme nous le voyons dans Matrix, ou décidons, à la manière de Skynet, que l’humanité est simplement pas digne de l'existence. D'autre part, les humains et les robots autonomes pourraient s'embrasser, acceptant de travailler ensemble à des activités intéressantes comme l'exploration de l'espace. Le seul moyen de savoir si les choses se terminent en flammes et en larmes ou en progrès et en amitié consiste toutefois à créer ces êtres en premier lieu. Mais si le passé est un indicateur, ce ne sera qu'une question de temps. «Nous sommes toujours motivés par la curiosité, par le désir d'explorer et de découvrir l'inattendu», explique Fink. "Et l'éthique scientifique a tendance à être en retard sur nos progrès."
«Parfois, nous obtenons de l'énergie atomique et parfois des armes atomiques», ajoute Mattu. "Nous ne savons pas quelle direction cela prendra, mais nous ne pouvons pas arrêter la science."
