De nombreuses discussions et réflexions éthiques sur les voitures autonomes conduisent à des dilemmes tragiques, comme des hypothèses dans lesquelles une voiture doit décider de renverser un groupe d’écoliers ou de plonger dans une falaise, en tuant ses propres occupants. Mais ce genre de situations sont des cas extrêmes.
Comme le montre le dernier accident - dans lequel une voiture autonome a tué un piéton à Tempe, en Arizona -, les situations banales et quotidiennes à chaque passage, passage et intersection présentent des dilemmes éthiques beaucoup plus difficiles et plus vastes.
Ethique des extrêmes
En tant que philosophe travaillant avec des ingénieurs du Centre for Automotive Research de Stanford, j'ai d'abord été surpris que nous passions nos réunions de laboratoire à discuter de ce que je pensais être une question facile: comment une voiture autonome devrait-elle aborder un passage pour piétons?
Mon hypothèse était que nous réfléchirions à la manière dont une voiture devrait choisir entre la vie de ses passagers et celle des piétons. Je savais comment penser à de tels dilemmes car ces scénarios de collision ressemblaient à un casse-tête philosophique bien connu appelé le «problème du chariot». tuer un pour sauver cinq?
Cependant, de nombreux philosophes doutent aujourd'hui qu'étudier de telles questions constitue une voie de recherche fructueuse. Barbara Fried, une collègue de Stanford, par exemple, a affirmé que des dilemmes tragiques incitent les gens à croire que les dilemmes éthiques surviennent principalement dans des circonstances extrêmes et désastreuses.
En fait, les dilemmes éthiques sont omniprésents. Chaque jour, les situations banales sont étonnamment complexes et désordonnées, souvent de manière subtile. Par exemple: Votre ville devrait-elle dépenser de l'argent pour un programme de prévention du diabète ou pour davantage de travailleurs sociaux? Le ministère de la Santé publique de votre région devrait-il embaucher un autre inspecteur pour les normes d'hygiène des restaurants ou poursuivre un programme fournissant des aiguilles et du matériel d'injection gratuits?
Il est extrêmement difficile de répondre à ces questions en raison des incertitudes quant aux conséquences - telles que qui sera touché et dans quelle mesure. Les solutions que les philosophes ont proposées pour les situations extrêmes et désespérées ne sont d'aucune aide.
Le problème est similaire avec les voitures autonomes. Réfléchir aux situations extrêmes et aux scénarios de collision ne peut aider à répondre aux questions qui se posent dans des situations banales.
Un défi aux passages pour piétons
On pourrait se demander ce qui peut être si difficile dans des situations de circulation banales, comme s’approcher d’un passage pour piétons, traverser une intersection ou tourner à gauche. Même si la visibilité sur le passage pour piétons est limitée et qu'il est parfois difficile de savoir si un piéton proche veut réellement traverser la rue, les automobilistes doivent y faire face tous les jours.
Mais pour les voitures autonomes, de telles situations banales posent un défi de deux manières.
Facile pour les humains signifie souvent difficile pour les ordinateurs. (XKCD, CC BY-SA) Premièrement, il y a le fait que ce qui est facile pour l'homme est souvent difficile pour les machines. Qu'il s'agisse de reconnaître des visages ou de faire du vélo, nous sommes doués pour la perception et les tâches mécaniques car l'évolution a développé ces compétences pour nous. Cela, cependant, rend ces compétences difficiles à enseigner ou à développer. C'est ce qu'on appelle le «paradoxe de Moravec».
Deuxièmement, dans un avenir où toutes les voitures sont des voitures autonomes, de petits changements dans le comportement de conduite feraient une grande différence dans l'ensemble. En d’autres termes, les décisions prises par les ingénieurs aujourd’hui détermineront non pas la conduite d’une voiture, mais la conduite de toutes les voitures. Les algorithmes deviennent des règles.
Les ingénieurs apprennent aux ordinateurs à reconnaître les visages et les objets à l’aide de méthodes d’apprentissage automatique. Ils peuvent également utiliser l’apprentissage automatique pour aider les voitures autonomes à imiter la façon dont les humains conduisent. Mais ce n'est pas une solution: cela ne résout pas le problème que de vastes décisions en matière de sécurité et de mobilité soient prises par les ingénieurs.
En outre, les voitures autonomes ne devraient pas conduire comme les gens. Les humains ne sont pas vraiment de très bons conducteurs. Et ils conduisent de manière troublante du point de vue de l'éthique, décidant de se rendre aux passages pour piétons, en fonction de l'âge, de la race et du revenu des piétons. Par exemple, des chercheurs de Portland ont découvert que les piétons noirs traversaient deux fois plus de voitures et devaient attendre un tiers plus longtemps que les piétons blancs avant de pouvoir traverser.
Les voitures autonomes devraient conduire de manière plus sûre et plus équitable que les gens.
Éthique mondaine
Les problèmes éthiques s’aggravent lorsque vous résolvez les conflits d’intérêts qui surgissent dans des situations banales telles que les passages pour piétons, les tournants et les intersections.
Par exemple, la conception des voitures autonomes doit concilier la sécurité des autres - piétons ou cyclistes - et les intérêts des passagers des voitures. Dès qu'une voiture va plus vite que son pas, elle est incapable d'empêcher de heurter un enfant qui pourrait courir sur la route à la dernière seconde. Mais le rythme de marche est, bien sûr, beaucoup trop lent. Tout le monde a besoin d'aller dans des endroits. Alors, comment les ingénieurs devraient-ils trouver un équilibre entre sécurité et mobilité? Et quelle vitesse est assez sûre?
D'autres questions éthiques se posent également. Les ingénieurs doivent faire des compromis entre mobilité et impacts environnementaux. Lorsqu'elles sont appliquées à toutes les voitures du pays, de petits changements dans les accélérations, les virages et les freins contrôlés par ordinateur peuvent avoir des effets considérables sur la consommation d'énergie et les émissions de pollution. Comment les ingénieurs doivent-ils concilier efficacité des déplacements et impact environnemental?
Quel devrait être l'avenir du trafic?
Les situations mondaines posent de nouveaux problèmes d’ingénierie et d’éthique, mais elles amènent également les gens à remettre en question les hypothèses de base du système de circulation.
Pour ma part, j’ai commencé à me demander si nous avions besoin d’endroits appelés «passages pour piétons»? Après tout, les voitures autonomes peuvent potentiellement permettre de traverser la route en toute sécurité.
Et ce ne sont pas seulement les passages pour piétons qui deviennent inutiles. Les feux de circulation aux intersections pourraient également appartenir au passé. Les humains ont besoin de feux de circulation pour que tout le monde puisse traverser l'intersection sans accident ni chaos. Mais les voitures autonomes pourraient se coordonner sans problème.
La question la plus importante est la suivante: étant donné que les voitures autonomes sont meilleures que les personnes, pourquoi les voitures devraient-elles être soumises à des règles conçues pour la faillibilité humaine et les erreurs humaines? Et pour prolonger cette expérience de réflexion, considérez également la question plus générale: si nous, en tant que société, pouvions concevoir notre système de trafic à partir de zéro, à quoi voudrions-nous qu'il ressemble?
Parce que ces questions difficiles concernent tout le monde dans une ville ou une société, elles exigent qu'une ville ou une société se mettent d'accord sur des réponses. Cela signifie qu’il faut équilibrer les intérêts divergents d’une manière qui fonctionne pour tout le monde - qu’il s’agisse uniquement de passages pour piétons ou du système de circulation dans son ensemble.
Avec des voitures autonomes, les sociétés peuvent redéfinir leurs systèmes de circulation. Du passage pour piétons à la conception globale du trafic - ce sont des situations banales qui soulèvent des questions très difficiles. Les situations extrêmes sont une distraction.
Le problème du chariot ne répond pas à ces questions difficiles.
Cet article a été publié à l'origine sur The Conversation.
Johannes Himmelreich, chercheur interdisciplinaire en éthique, Université Stanford McCoy Family Centre pour l'éthique dans la société
