Pas d'intelligence artificielle sans morale, avec Jean-François Bonnefon

Par Valérie Ravinet, journaliste.

Un bureau, deux chaises et un ordinateur. Jean-François Bonnefon s’excuse de vous accueillir dans une pièce aussi vide de Toulouse School of Economics (TSE). Il vient de poser ses valises, de retour d’une année passée à Boston, au MIT (Massachusetts Institute of Technology). Il y avait rejoint son ami Iyad Rahwan pour encadrer et accélérer les projets sur les décisions à dimension morale, au cœur de ses recherches.

« J’en reviens marqué par l’intensité et la réactivité de l’université pour faire avancer les travaux »,

s’enthousiasme le chercheur.

Du contenu des travaux, il ne dira rien, ils sont encore en cours et confidentiels. Mais il se réjouit de pouvoir rester en lien avec l’équipe de son collègue qui s’est déplacée à l’Institut Max Planck de Berlin. Car ces recherches sont le sens donné à sa vie.

Psychologie et mathématiques : la révélation

Après ses années lycée, Jean-François Bonnefon suit la filière classique des classes préparatoires scientifiques. « J’étais bon en math et dans notre système, si vous avez la capacité de suivre ce type de parcours, on vous y envoie, sans se demander ce qui va se passer ensuite », observe celui qui deviendra docteur en psychologie.  Durant sa seconde année, il prend conscience que les perspectives professionnelles offertes par sa formation ne correspondent pas à ce qu’il souhaite devenir. L’année suivante, il suit des cours dans toutes les facs de Toulouse pour « ouvrir ses horizons ». Un cours de psychologie, « un bon espace pour avoir de l’oxygène, comprendre ce qu’on veut faire », et c’est le déclic : il étudiera la psychologie de ceux qui font des maths.

« J’ai réalisé qu’en tant que psychologue, je pourrais explorer la façon dont les gens pratiquent la discipline qui m’intéresse. Une révélation extraordinaire ! ».

Rencontre avec les économistes

La suite de son parcours de formation est linéaire et aboutit à une thèse dédiée aux questions d’interface entre la psychologie et l’intelligence artificielle (IA). Nous sommes au début des années 2000, durant lesquelles les chercheurs en IA interrogent les psychologues pour comprendre la résolution des exceptions dans l’esprit humain et s’en inspirer pour programmer les machines. En 2004, le jeune docteur entre au CNRS et partage son temps entre le département Psychologie de l’Université Toulouse – Jean Jaurès et l’Institut de recherche en informatique de Toulouse (IRIT). « Une expérience formidable qui m’a permis de comprendre la culture de recherche en IA côté informatique », se souvient-il. En 2009, le chercheur prend la direction du laboratoire Cognition, Langues, Langage, Ergonomie (CLLE) à Toulouse et poursuit son travail sur la manière dont les humains parviennent à passer outre les exceptions dans leurs raisonnements ; puis il chemine vers une réflexion autour des processus de décisions. Il rencontre alors les économistes de TSE et choisit de les rejoindre.

« Les économistes ont des modèles mathématiques formels, envisagent la manière dont un agent théorique prend une décision optimale mais sans naïveté ; ils savent que les décisions que prend un humain peuvent être différentes de celles qui sont prédites par le modèle mathématique. Ils ont montré une grande ouverture pour échanger avec un psychologue sur ces questions ».

Entre l’homme et le véhicule, qui prend les commandes ?

Jean-François Bonnefon s’intéresse aux décisions à caractère moral ou éthique, « pas seulement ce qui est le mieux pour un individu, mais aussi comment il prend en compte les intérêts des autres, ce qu’il peut ou ne peut pas faire d’un point de vue moral ». Et un jour, alors qu’il se déplace sur le campus d’Abou Dabi en véhicule autonome avec son confrère Iyad Rahwan, la question de la décision morale dans ce type de voiture s’impose. « Il parait insoluble de savoir, d’un point de vue moral, ce qu’une voiture autonome devrait faire dans une situation d’accident. Choisit-on de percuter un homme âgé, une fillette ou un chat ? Deux femmes médecins ou toute une famille ? ». Rejoints par Azim Shariff, les chercheurs travaillent à la création de la plateforme Moral Machine.

« Au final, ce sont les citoyens qui seront les acheteurs, ce sont eux qui devront être convaincus de leur intérêt pour ce type de véhicules. Que seront-ils capables d’accepter ? Avec quelles différences selon les pays, les continents ? ».

C’est cette aventure que Jean-François Bonnefon raconte dans l’ouvrage « La voiture qui en savait trop », à paraitre cet automne aux éditions Humensciences.

Passionnante, la recherche a connu un retentissement mondial, avec des parutions dans les revues les plus prestigieuses, de Nature à Science, mais aussi dans les médias adressés au grand public à travers le monde. Reconnu par ses pairs, Jean-François Bonnefon est nommé président d’un groupe d’experts en charge de la réflexion sur le véhicule sans chauffeur, au sein de la Commission européenne. Avec, comme objectif, d’informer le législateur européen des directions à prendre pour réguler les dimensions éthiques dans ces nouveaux modes de transport.

En parallèle de ses activités à TSE, Jean-François Bonnefon a pris la responsabilité de la chaire « moral AI » de l’institut toulousain dédié à l’intelligence artificielle ANITI. À la question « comment décririez-vous votre quotidien ? », l’homme qui parcourt le monde et multiplie les échanges sourit et répond : « le plus souvent, c’est être face à mon écran et écrire ».

Bio express

• Mai 2019 : nomination à la tête de la chaire « moral AI »  de l’Institut interdisciplinaire d’intelligence artificielle de Toulouse, ANITI. L’institut compte actuellement 24 chaires.
• Depuis 2019 : il préside groupe d’experts de la Commission européenne dédiés à la question de l’éthique des véhicules autonomes.
• 24 octobre 2018 : parution d’une analyse des 40 millions de décisions recueillies sur la plateforme en ligne « Moral Machine » dans la revue Nature. Une interrogation inédite sur les dilemmes moraux posés par les véhicules autonomes.
• Mai 2015 : il rejoint les économistes de Toulouse School of Economics, Toulouse School of Management et l’Institute for Advanced Study.
• Octobre 2004 : entre au CNRS et devient directeur de recherche senior en 2013.
• 2003 : obtient le titre de docteur en psychologie de l’Université Toulouse – Jean Jaurès.
• 1973 : naissance à Toulouse

Voix off

• Quelle est la première chose que vous faites en vous levant ? Je regarde mes mails.
• Quel est votre principal trait de caractère ? Je suis curieux avant tout.
• A quelle époque auriez-vous aimé vivre ? Dans le futur, c’est là que tout ce qui est excitant se passe.
• Quel est l'objet préféré de votre bureau ? Une figurine de Marvel, Taskmaster. Plutôt confidentiel, il a travaillé avec Docteur Fatalis. Son super pouvoir : la super organisation. J’adore cette idée.
• Ce que vous appréciez le plus chez vos collègues ? Le fait qu’ils sachent tant de choses différentes de celles que je sais.
• Le don de la nature que vous voudriez avoir ? Avoir un super métabolisme qui permettrait de ne pas prendre de poids. C’est la guerre de ma vie.
• Quel rêve vous reste-t-il à accomplir ? Écrire un roman d’Epic fantasy.
• La dernière fois que vous avez ri aux larmes ? Je n’ai pas une grande intensité dans le rire.
• Quel.le chercheur.e vous a inspiré ? Le philosophe australien Peter Singer, et en particulier son ouvrage « repenser la vie et la mort ». Je n’aurais jamais pensé que l’on puisse avoir une expression à la fois aussi complète et aussi claire sur des questions de vie ou de mort.  Une grande source d’inspiration pour moi.
• Quelle est la dernière chose que vous faites avant de vous coucher ? J’écoute de la musique.

CLLE : Laboratoire Cognition, Langues, Langage, Ergonomie (CNRS, Université Toulouse – Jean Jaurès, EPHE, Université Michel de Montaigne Bordeaux 3)

IRIT : Institut de recherches en informatique de Toulouse - CNRS, Université Toulouse III - Paul Sabatier, Toulouse INP, Université Toulouse Capitole, Université Toulouse - Jean Jaurès.