Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Si une voiture autonome devait faire un accident inévitable, qui faudrait-il sacrifier en priorité ?
Le MIT livre les résultats de son étude éthique

Le , par Michael Guilloux

208PARTAGES

16  0 
Qui faut-il sacrifier en priorité ?
Avec le développement rapide de l'intelligence artificielle sont nées des inquiétudes sur l'éthique des décisions que devront prendre les dispositifs intelligents. En ce qui concerne les voitures autonomes par exemple, l'une des applications les plus importantes de l'IA, les chercheurs du MIT ont essayé d'avoir une réponse à une question cruciale : si une voiture autonome devait faire un accident inévitable, qui faudrait-il sacrifier en priorité ?

C'est bien le fameux dilemme du tramway dont la version originale peut se formuler comme suit : imaginons le conducteur d'un tramway hors de contrôle qui se doit de choisir sa course entre deux voies possibles : cinq hommes travaillent sur la première voie et un homme est situé sur l'autre. La voie prise par le tramway entraînera automatiquement la mort des personnes qui s'y trouvent. Que faut-il faire alors ? Prendre la deuxième voie afin de sacrifier une seule vie pour en sauver cinq ? Mais ce choix est-il vraiment moral ?

Les chercheurs du MIT Media Lab se sont inspirés de ce problème classique pour tester neuf différentes situations : la voiture autonome devrait-elle épargner en priorité les humains plutôt que les animaux de compagnie, les passagers au lieu des piétons, les femmes au lieu des hommes, les jeunes plutôt que les vieux, les personnes ayant un haut statut social au lieu de celles ayant un statut inférieur, les personnes respectant la loi plutôt que les criminels, les personnes mal portantes au lieu de celles en bonne santé ? La voiture devrait-elle dévier (agir) ou ne rien faire ou encore chercher à épargner le plus de vies possible ?

Pour cela, ils ont conçu en 2014 une expérience qu'ils ont appelée Moral Machine, une plateforme qui leur a permis de recueillir les avis du public sur ce qu'il faut sacrifier ou épargner en priorité si une voiture autonome devait faire un crash inévitable. Mais plutôt que de proposer des comparaisons individuelles, l’expérience a présenté aux participants diverses combinaisons. Quatre ans après la mise en ligne de la plateforme, des millions de personnes dans 233 pays et territoires ont permis d'enregistrer 40 millions de décisions morales, ce qui en fait l'une des plus grandes études jamais réalisées sur les préférences morales mondiales.



Un nouvel article publié dans la revue scientifique Nature présente l'analyse de ces données. L'étude révèle que dans l'ensemble, les gens sont d’accord pour épargner les humains plutôt que les animaux ou encore préserver la vie des enfants en priorité plutôt que celle des adultes. Sans surprise, le gens estiment aussi qu'il faut privilégier le scénario le moins coûteux en nombre de vies.

Il y a toutefois des divergences notables en fonction de la culture, de l'économie et de la localisation géographique. L'étude montre par exemple que les pays ayant des cultures plus individualistes sont les plus susceptibles d'épargner les jeunes plutôt que les vieux - et la France arrive en tête dans ce groupe de pays. Mais à l'opposé, les participants de cultures collectivistes comme la Chine et le Japon sont moins enclins à épargner les jeunes au détriment des plus âgés. Les chercheurs supposent que c'est probablement en raison de l'importance accrue accordée au respect des personnes âgées dans ces pays. C'est ce qui est illustré par la figure suivante qui compare les pays qui testent les voitures autonomes : un score plus proche de 1 signifie que les répondants sont plus d'accord pour épargner les jeunes au lieu des plus âgés. Et un score plus proche de -1 signifie que les répondants sont plus favorables au fait de préserver la vie des personnes âgées ; 0 étant la moyenne mondiale.


Les résultats ont également montré que les participants de cultures individualistes, comme le Royaume-Uni et les États-Unis, étaient plus d'accord pour épargner plus de vies étant donné tous les autres choix. La France est également en tête de ce groupe, comme le montre la figure ci-dessous. Plus le score est proche de 1, plus les répondants estiment qu'il faut épargner davantage de vies. Plus le score est proche de -1, moins les répondants insistent sur le fait d'épargner davantage de vies ; 0 étant la moyenne mondiale.


De même, les participants des pays pauvres dotés d'institutions plus faibles sont plus tolérants à l'égard des piétons qui marchent sur la chaussée quand il s'agit de choisir entre eux et les piétons qui traversent légalement. Et les participants des pays avec un niveau élevé d'inégalité économique montrent des écarts plus grands entre le traitement des individus avec un statut social élevé et ceux ayant un statut bas.

Faut-il épargner les piétons plutôt que les passagers ? C'était également une question importante dont la réponse varie en fonction des pays. Le Japon s'est classé comme étant le premier pays où les répondants préfèrent que la vie des piétons soit épargnée au détriment de la vie des passagers. A l'opposé du Japon, on retrouve la Chine où les répondants ont clairement fait savoir qu'ils préfèrent plutôt qu'on épargne la vie des passagers, et donc qu'on risque la vie des piétons si nécessaire. Par rapport à la moyenne mondiale, la France penche du côté de ceux qui veulent qu'on épargne la vie des passagers plutôt que la vie des piétons.


L'étude a des implications intéressantes pour les pays qui testent actuellement des voitures autonomes, car ces préférences pourraient jouer un rôle dans la conception et la réglementation de ces véhicules. Les constructeurs automobiles peuvent par exemple constater que les consommateurs chinois entreraient plus facilement dans une voiture qui les protège au détriment des piétons. Mais les auteurs de l'étude ont souligné que les résultats ne sont pas censés dicter la manière dont les différents pays doivent agir. D'ailleurs, dans certains cas, les auteurs ont estimé que les technologues et les décideurs ne devraient pas tenir compte de l'opinion publique collective.

À propos de la décision morale en fonction du statut social par exemple, « il est inquiétant que les gens aient trouvé, à un degré significatif, qu'il est bon d'épargner les personnes ayant un statut social élevé au détriment de ceux ayant un statut inférieur », affirme Edmond Awad, l'un des auteurs de l'étude. Il estime donc que les résultats devraient plus être utilisés par l'industrie et le gouvernement comme base pour comprendre comment le public réagirait à l’éthique de différentes décisions de conception et de politique.

Enfin, notons que cette étude n'est pertinente que si l'objectif est de commencer dès maintenant à discuter de ce qui pourrait être un problème dans 10 ou 20 ans. En effet, les voitures autonomes ne sont pas aussi autonomes et performantes actuellement pour identifier toutes les caractéristiques des objets ou humains qui entrent dans leur champ de vision. Parce que distinguer un jeune d'une personne âgée ou encore un criminel d'une personne respectant la loi ne demande pas juste d'être doté de capteurs sophistiqués, mais de disposer d'un véritable système de reconnaissance faciale et toute l'infrastructure qui va avec.

Sources : MIT Technology Review, The Moral Machine (les différents scénarios)

Et vous ?

Que pensez-vous des résultats de cette étude ? Quels sont les problèmes qu’elle met en évidence ?
Qui faut-il sacrifier en priorité si une voiture autonome devait faire un accident inévitable ?

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Nicolas___
Membre régulier https://www.developpez.com
Le 26/10/2018 à 8:25
Tiens c'est marrant mais il n'y a pas le choix, choix que je ferai si j'étais par exemple seul dans ma voiture, de foncer sur le bas coté afin de ne toucher personne ... mais ça nécessite le sacrifice de sa personne.
C'est interpellant ici qu'il n'y ai même pas ce choix, on parle de qui on devrait sacrifier alors que le soucis à la base viendrait du véhicule.

Dans un cerveau humain, je ne pense pas qu'on se dise avant un impact sur une personne, tiens celui-là il est moche, il mérite de passer au dessus de mon capot.
Maintenant est-ce qu'un programme peut se sacrifier ? faudrait déjà avoir une notion d'existence pour parler de sacrifice ...
9  0 
Avatar de Sunchaser
Membre expert https://www.developpez.com
Le 05/12/2018 à 18:57
C'est l'hiver. Fin de journée.
Il ne fait pas très beau, mais cela a peu d'importance, la pluie ne gêne pas la très dense circulation: tous les systèmes automatisés communiquent et se règlent les uns aux autres afin de fluidifier au mieux la circulation. Les véhicules automones gèrent leur trajet au mieux (analyse des situations, échange d'infos avec les autres véhicules et éléments d'environnements "intelligents" parmis les autres véhicules, y compris les tramways et bus automatisés.
Tout glisse.
La, sur le bord du trottoir, la petite vieille est en panique: elle a lâchée par mégarde la laisse de son vieux chien, qui a traversé la terrible avenue. Il tremblote au milieu de la voie, sur le petit terre-plein central. Il ne risque rien, la, le petit chien: tous les systèmes de transport automatisés l'ont évités bien gentillement et à la limite, il pourrait rester la ou même traverser dans l'autre sens pour rejoindre mémère que cela ne changerait pas grand-chose aux traffic - les machins automatisés l'ont vu, ils ont échangés l'info entre eux afin de bien prendre en compte qu'il y a cet obstacle.
Mais la petite grand-mère, elle ne sais pas tout ça. Elle y comprends rien. Elle ne sait même pas que personne ne conduit les véhicules qui passent devant son nez. Elle veut juste récupérer son vieux chien. Elle est toute voûtée, vetue de couleurs plutôt sombre et trempée a cause de la pluie: on la remarque à peine dans la pénombre. Sans regarder la signalisation, elle s'avance, en dehors du passage piéton. Elle commence a paniquer, frolée par tous ces machins autonomes qui optimisent leur trajectoire tout en l'évitant. Elle hâte le pas, trébuche, s'affale au milieu de la voie et laissant tomber ses cabats, qui renversent leur contenus sur la route; dans la même seconde, le vieux chien se jete sur la chaussée pour rejoindre sa grand-mère qu'il a vu s'étaler.
Tout ceci met les nombreux véhicules automones concernés directement par l'incident en mode d'alerte maximale: ils doivent calculer soit la meilleure ou la moins pire des solutions. Percuter le véhicule de gauche ou de droite, afin d'éviter la petite vieille?
Ecraser le chien? La grand-mère? Monter sur le terre-plein central et percuter les gens qui attendaient pour traverser l'autre moitié de la route? Percuter le bus avec tous les gens dedans?
Se décaler et faire un face a face avec le tramway automatique?
En plus, ils passent tous l'infos aux véhicules autour, qui se mettent aussi a calculer de possibles trajectoires: le bus autonome peut il décider de faire une embardée afin de laisser une petite place afin qu'une des voitures puissent se dégager sans écraser la petite vieille et sans le percuter? Etc, etc, etc ... en qq millisecondes, le nombre de calculs a effectuer, le nombre d'infos qui transitent (via des serveurs spécialisés) provoque une hausse de la consommation électrique insoutenable pour le réseau.
Tout saute.
Tout est plongé dans le noir, les véhicules autonomes ne contrôlent plus rien, carambolage géant qui se propage de rues en rues. Le vieux chien est applati comme une crêpe, la petite vieille est en charpie.
Comme il avait fallu trouver des solutions pour répondre aux nouvelles demandes en électricité, surtout lorsqu'en hiver tout le monde après le travail se mettait a recharger sa voiture électrique quasiment dans les même plages horaires, on avait
patché encore et encore les vieilles centrales nucléaires, en croisant les doigts. Dommage, elles sont maintenant hors de contrôle.
Dans les 2 jours qui suivent, personne n'aura su reprendre le contrôle, elles seront en surchauffe et de partout en France on verra naitre des petits Tchernobyls.
La population panique, elle tente de fuir dans les pays voisins, qui eux sont déjà en alerte. Les gens sont refoulés par les armées voisines, c'est le chaos.
Donald Trump, qui a pris le pouvoir depuis de très nombreuses années, en fin analyste y voit une attaque des services secrets de la Corée du Nord: il balance une attaque nucléaire.
C'est la fin de l'humanité.
Tout ça à cause d'une petite vieille et de son chien ... p**in de petite vieille !
9  0 
Avatar de sebastiano
Membre extrêmement actif https://www.developpez.com
Le 26/10/2018 à 8:56
Je vais être très terre à terre, terriblement cynique, et ça vient aussi du fait que je constate de plus en plus d'incivilités et de comportements dangereux sur la route, mais si je devais coder la décision de l'IA sur qui faire mourir, je ferai en sorte qu'elle choisisse celui qui n'a pas respecté le code de la route et les priorités. C'est con, mais dans ma façon de voir les choses, j'ai du mal à saisir pourquoi une vieille femme qui se met volontairement en danger aurait plus le droit de vivre qu'un jeune homme en pleine santé qui attend sagement le piéton vert pour passer.
7  0 
Avatar de vanquish
Membre éprouvé https://www.developpez.com
Le 26/10/2018 à 9:32
Citation Envoyé par Ehma Voir le message
Ca y est, nous y sommes.

Il est vrai que l'informatique et la philosophie ont des choses communes, dont les règles d'inférence et les tables de vérité. Mais là nous nous rapprochons encore plus : Je n'aurais jamais cru que l'on parlerait un jour d'algorithme d'éthique.

J'imagine dans le future des informaticiens dire "Ouais, moi je développe des programme qui sont plutôt utilitaristes", "ah non, moi je fais plutôt dans le conséquentialisme"....

Qui l'eut cru ?
Le contexte est un peu particulier parce que dans cette situation particulière l'humain n'a pas de temps de réfléchir ; il agit par réflexe ou reste paralysé et ne prend donc pas une décision au sens propre.

Mais effectivement, dès que l'on sort de ce contexte débat qui oppose pragmatisme/utilitarisme et morale est vieux comme le monde.

Je ne suis pas un grand amateur de philosophie, mais je vous invite à regarder cette vidéo sur le sujet de Mr Phi avec la participation de Lê Nguyên Hoang de Scien4All (chaine sur les math et l'IA pour ceux qui ne connaissent pas ).



La vidéo vous met face à un problème qui va se complexifier peu à peu.
La décision utilitariste est toujours évidente, mais elle devient de plus en plus difficile à prendre.
J'ai trouvé l'exercice est très intéressant.

PS : je ne pensais pas que le lien allait incruster la vidéo, visiblement c'est prévu par le site lui même, alors je laisse.
5  0 
Avatar de BenoitM
Expert confirmé https://www.developpez.com
Le 26/10/2018 à 10:09
On oublie quand même que les passager dispose de ceinture de sécurité, d'airbags pour les protéger.
5  0 
Avatar de Neckara
Expert éminent sénior https://www.developpez.com
Le 27/10/2018 à 7:03
La réponse à ce genre de dilemme est connu depuis quelques années déjà…


Ouais, je suis en retard pour trolldi.
.
4  0 
Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 26/10/2018 à 10:27
Citation Envoyé par vanquish Voir le message
Le contexte est un peu particulier parce que dans cette situation particulière l'humain n'a pas de temps de réfléchir ; il agit par réflexe ou reste paralysé et ne prend donc pas une décision au sens propre.
Certains seront paralysés, d'autres auront un réflexe mais il est faux de dire qu'il n'y aura pas de décision au sens propre. Cela dépend de "l'entraînement" du sujet.

Si tu es un joueur vidéo, il a été prouvé scientifiquement que tu as des temps de réaction beaucoup plus courts pour analyser une situation dangereuse, réagir et adopter une réaction d'évitement. De même un pilote automobile professionnel aura ses sens de la conduite plus aiguisés et pourra éviter l'accident qu'un conducteur lambda ne verra même pas venir.

Lors d'une conduite sur sol enneigé, je me suis trouvé dans le cas où mon véhicule ne répondait plus au freinage et allez directement finir au milieu d'un carrefour avec un des véhicules traversant ma trajectoire. Certes il n'allait pas y avoir mort d'homme vu les vitesses en cause, mais j'ai eu le temps d'analyser la situation et de me dire "est-ce que tu continues tout droit ou tu vises le poteau de signalisation pour t'arrêter et éviter la casse d'autres véhicules?" J'ai choisi le poteau (merci à l'ABS). Résultat: 700 euro pour réparer le poteau et un long passage chez mon garagiste.

Est-ce que c'était la meilleure solution? Je n'en sais rien mais pour rien au monde je n'aurai voulu que quelqu'un d'autre (un obscur développeur que je ne connais pas) prenne la décision à ma place!

Ce choix, je l'ai fait en accord avec moi-même, ma morale et mon éthique. Est-ce que quelqu'un imagine ce qu'il pourrait advenir d'un conducteur qui est responsable de la mort de plusieurs personnes suites à la décision de l'IA de sa voiture? Pas sûr qu'il en sorte psychologiquement indemne.
3  0 
Avatar de Aiekick
Membre extrêmement actif https://www.developpez.com
Le 26/10/2018 à 12:55
10% ont voté pour les femmes a sacrifier ?? et 0% pour les hommes ? ya vraiment des gros nazes ici. ps : je suis un homme
6  3 
Avatar de SofEvans
Membre chevronné https://www.developpez.com
Le 05/11/2018 à 11:02
Citation Envoyé par Zywyz Voir le message
Il serait plus logique de sauver les plus jeunes, ils ont plus de vie devant eux.
Je vais réagir sur ce point qui revient beaucoup.

Personnellement, ça me ferait gravement chier de me faire buter parce qu'une bande de gamins écervelé a cru rigolo de se jeter sous les roues d'une voiture autonome.
Ok, les jeunes ont plus de vie devant eux que moi, mais ça ne signifie pas que moi je n'ai pas de vie devant moi.

Merde, mais c'est quoi ces questions bizarres ?

Si une voiture autonome est dans une situation où elle ne peut rien faire pour éviter un accident mortel, alors elle pile à mort et reste sur sa voie de circulation.
De toute manière, il y a toujours une situation où la réponse est inversé car le groupe "fautif" n'est pas le même :
Pour le cas où la voiture doit "choisir" entre sacrifier 1 vieux ou 4 enfants, on dit quoi à la famille du vieux si la voiture à choisi de le buter parce que 4 môme ont fait de la merde et qu'ils ont provoqué l'accident ?
"Désolé, mais vous comprenez, ils sont si jeune, c'est normal de faire des bêtises à leurs âges.Et puis votre père n'en avait plus pour très longtemps non plus hein, je veux dire, à 80 ans, on a bien vécu, il a fait son temps".
Et on dit quoi à la famille des jeunes si la voiture à "choisi" de sacrifier les 4 jeunes en restant sur sa voie de circulation alors qu'elle aurai pu choisir de juste buter un vieux ?

Oui je sais, j'utilise des mots cru, mais en même temps, c'est pour montrer qu'on est tous le jeune de quelqu'un, ou est tous le vieux de quelqu'un, on est tous plus important pour un autre et on a tous quelqu'un de plus important que nous.
Alors comment voulez-vous faire quoi que ce soit sur cet aspect ?

De mon point de vue, le seul truc qui pourrait potentiellement être plus "moral" serait de choisir le groupe avec le plus de chance de survis, mais on sort de la question philosophique présente ici (car la chance de survie est 0%).
Et puis même sur ce point, que faire quand 1 vieux à 20% de chance de survis et que 4 enfant ont chacun 19% de chance de survis ? On retombe exactement dans le même problème. (edit : et encore que sur ce point, on peut bien rigoler aussi sur comment on va calculer les chances de survis d'un individu !)

Bref, question utile pour s’éveiller au casse-tête de la moralité, mais sans plus.
4  1 
Avatar de halaster08
Expert confirmé https://www.developpez.com
Le 26/10/2018 à 8:12
C'est vraiment pas facile, la seule réponse dont je suis sûr c'est qu'il faudrait impacter le moins de personnes possibles, après pour ce qui est des jeunes/vieux handicapé ou non, hommes/femmes j'ai pas d'avis, et je n'aimerais pas être celui qui devra donner cet avis, ni celui qui devra le coder
Mais de toute façon c'est pas possible techniquement que la voiture sache faire la différence entre ces critères, si ?
2  0