Search
  • Nouvelles
  • Institutions, Organisations et Croissance

Construction d’une machine douée d’un sens moral

by Jon Farrow
nov. 20 / 18


(Credit: Moral Machine team)

Comme les agents autonomes pourraient bientôt foisonner dans notre monde, il serait bon d’intégrer une boussole morale à leur programmation. Mais quelle morale choisir comme modèle?

Imaginez que vous êtes en voiture avec votre famille quand, tout à coup, un chat saute devant votre véhicule. Allez-vous faire une embardée pour éviter le chat et ainsi risquer de vous écraser contre un mur et mettre votre famille en danger, ou bien allez-vous continuer tout droit? Et s’il ne s’agissait pas d’un chat, mais d’un enfant? Ou d’une personne âgée? En quoi cela change-t-il votre calcul moral?

Voilà l’essence d’un célèbre dilemme philosophique, appelé le problème du tramway, qui constituera bientôt plus qu’une simple expérience de la pensée. Nombreux sont ceux qui soutiennent qu’au cours des prochaines années, à mesure que nous transférerons diverses responsabilités à des machines, comme la conduite automobile, nous devrons programmer des voitures autonomes aptes à soupeser ces considérations.

Afin de comprendre qui sauver, des chercheurs du MIT ont conçu un site Web appelé Moral Machine qui a présenté à des millions de personnes diverses permutations du problème du tramway au cours des deux dernières années. Deux chiens et un braqueur de banque dans la voiture contre une femme et un bébé qui traversent la rue à un endroit interdit. Quatre athlètes féminines contre quatre hommes qui traversent la rue au bon endroit. Les possibilités sont presque infinies.

Après 40 millions de réponses en neuf langues provenant de 233 pays, les chercheurs ont publié dans la revue Nature des résultats qui révèlent que la personne moyenne tend à sauver les jeunes, le plus grand groupe de personnes présent et les humains. Cela peut sembler logique, mais un examen plus approfondi des données a également révélé des différences culturelles frappantes. Dans les pays orientaux, comme la Chine et le Japon, par exemple, la préférence est plus marquée pour les personnes âgées. Dans les pays du Sud, comme ceux d’Amérique latine, les gens ont tendance à épargner les personnes de statut supérieur. Dans les pays occidentaux, comme le Canada et les États-Unis, les gens préfèrent l’inaction à l’action et résistent donc à l’idée que les véhicules autonomes tentent par tous les moyens de frapper un piéton, peu importe qui se trouve dans la voiture.

Avec un ensemble de données aussi vaste, il y a d’innombrables façons d’interpréter les résultats. Conséquemment, pour avoir une meilleure idée de ce que tout cela signifie, nous nous sommes entretenus avec Joe Henrich, l’un des auteurs de l’article. Henrich est professeur au département de biologie évolutive humaine de l’Université Harvard et Boursier principal au sein du programme Institutions, organisations et croissance du CIFAR.

Nous avons eu un entretien téléphonique avec le professeur Henrich quelques jours après la publication de l’article dans Nature.

Comment avez-vous participé au projet?

J’ai surtout participé en tentant de trouver une façon d’analyser les données et de comprendre les variations. Iyad Rahwan et son étudiant diplômé Edmond Awad ont fait le gros du travail. Les autres ont participé à diverses étapes du processus d’analyse et ont aussi tenté de trouver une interprétation d’ensemble, ainsi qu’une approche analytique. Azim Shariff, un autre des auteurs, est un de mes anciens élèves et, au fur et à mesure que les données arrivaient, il m’a demandé conseil sur la façon de les analyser. J’ai donc commencé à lui dire ce que je pensais. Puis, après cette conversation, ils m’ont invité à devenir l’un des auteurs et à continuer à les conseiller.

Pourquoi ces résultats sont-ils importants?

À l’examen des données, on devrait peut-être s’interroger sur toutes sortes de décisions politiques, car si les gens dans différentes sociétés ont des moralités assez différentes quant à leurs priorités, les choix politiques des uns et des autres seront très différents. Que l’on donne la priorité aux personnes âgées, à l’influence du statut, à l’importance de la majorité ou à toutes sortes d’autres facteurs sociaux.

Nous n’essayons pas de prescrire des mesures politiques spécifiques, mais c’est utile pour les décideurs politiques de savoir au moins comment les gens de la base, les gens de ces différents pays, font des choix pour déterminer quel devrait être le compromis. Bien sûr, ce sont aux décideurs que reviennent les décisions. Mais si cela va à l’encontre de ce que la plupart des gens veulent, il faut le savoir.

Avez-vous été surpris par l’un ou l’autre des résultats?

On avait déjà prétendu par le passé qu’il n’y avait pas beaucoup de variations culturelles dans des problèmes du genre, comme le problème du tramway, que les gens à travers le monde seraient relativement cohérents dans leurs réponses. Mais d’après quelques expériences ponctuelles que j’ai réalisées et le travail expérimental d’autres personnes, je soupçonnais qu’il y aurait beaucoup de variations culturelles. En conséquence, ce qui m’a vraiment intrigué dans les résultats, c’est qu’il y a une énorme variation culturelle dans la façon dont les gens trouvent un équilibre entre ces différents compromis, comme épargner les personnes âgées ou les passagers, épargner les hommes ou les femmes.

L’une des choses intéressantes que je trouve quelque peu intrigante est la question de faire le plus de bien pour le plus grand nombre de personnes — l’utilitarisme. Beaucoup de gens souscrivent à une vision utilitariste du monde. Mais ce que nous avons constaté, c’est que les pays les plus utilitaires étaient ceux qui étaient les plus individualistes. En d’autres termes, l’utilitarisme est une philosophie à laquelle on pense quand on est suffisamment individualiste. Les philosophes ont tendance à penser que l’utilitarisme sort du domaine de la pensée pure, mais on peut le voir en fait comme le produit d’une psychologie individualiste.

Voici un autre résultat contre-intuitif : en général, il y a un préjugé en faveur des femmes, de sorte qu’on ne dit pas à la voiture de faire une embardée sur des femmes ou d’écraser la voiture dans laquelle se trouve une femme. Mais là où il y a plus d’inégalité entre les sexes, il y a plus de favoritisme envers les femmes. En augmentant l’égalité entre les sexes et la valeur des femmes dans la société, vous augmentez également la probabilité que les gens disent : « Eh bien, la voiture devrait traiter les hommes et les femmes plus équitablement ». Donc, vous faites plus de mal aux femmes.

Compte tenu de ces différences culturelles, qui s’occupera de programmer l’éthique dans les voitures autonomes?

Il s’agit là d’une grande question ouverte, car vous pourriez demander à chaque acheteur de programmer son propre système. Ensuite, ils achèteraient probablement des voitures qui protègent toujours le passager. Mais on pourrait aussi songer à imposer des règlements. Et il faudrait décider à quelle échelle le faire. Voulons-nous des normes mondiales? Des normes nationales? Des normes locales? Cette étude a démontré des variations d’un pays à l’autre, mais il y a aussi beaucoup de variations au sein des pays. Et c’est sur quoi nous nous penchons actuellement. Nous examinons le cas de l’Inde, par exemple, et nous explorons les variations régionales de ces différences d’un pays à l’autre.

Avez-vous des conversations sur ce sujet lors des réunions du programme Institutions, organisations et croissance?

Eh bien, je pense que ces conversations ont commencé. Et cette étude représente un bon point de départ. En tant que groupe, nous nous intéressons beaucoup aux effets de divers facteurs, comme les robots et l’intelligence artificielle, sur le monde. Je n’ai pas été témoin de discussions particulières sur l’éthique ou sur la façon de programmer l’éthique dans l’intelligence artificielle, mais il y a un certain nombre de membres du groupe qui s’intéressent à cette question et je crois que les conversations iront dans cette direction.

Quelles sont les prochaines étapes de ce projet?

Les données sont vraiment riches et ce n’était que notre première incursion dans le domaine. Nous voulions simplement publier l’étude et susciter le débat. Mais j’examine maintenant les données beaucoup plus en détail avec des économistes en stage postdoctoral dans mon laboratoire. Par exemple, nous savons où les gens se trouvaient quand ils ont répondu aux questions et cela nous permet d’analyser diverses choses, comme des effets écologiques ou des grappes culturelles au sein des pays. De plus, à l’aide de l’imagerie satellitaire, nous pouvons examiner les effets du revenu à une échelle très localisée. Cela peut paraître fou, mais l’imagerie satellitaire la nuit peut vous renseigner sur l’éclairage dans toutes les régions de la planète. Et il y a une corrélation forte entre l’éclairage, et la croissance économique et la production. Conséquemment, nous pouvons attribuer à chaque région d’un pays une mesure de son PIB, puis nous pourrons examiner diverses choses, comme le revenu et le lien qui existe avec les réponses à l’enquête.


Cette entrevue a été révisée par souci de longueur et de clarté.