Pour Céline Castets-Renard, le droit est le garde-fou d’une IA responsable

Par Valérie Ravinet, journaliste.

Celui qui imagine le droit comme un système de régulation de notre organisation sociale ou un ensemble de règles et d’intentions occulte une large partie de la discipline : le droit a non seulement un sens mais il en produit. La juriste Céline Castets-Renard, spécialiste du droit du numérique et de l’intelligence artificielle (IA), incarne cette vision et la partage avec pédagogie.

« Ce qui me plait dans mon travail, c’est son actualité et son impact sociétal : en quoi l’intelligence artificielle change-t-elle notre société ? Quels sont les risques ? Quels sont les réels progrès humains qu’elle permet ? En a-t-on vraiment besoin ? »

s’interroge -t-elle sans détour.

La juriste s’implique dans les cercles de réflexion les plus réputés au niveau international. En 2017, Céline Castets-Renard quitte son poste de l’Université Toulouse 1 Capitole pour les États-Unis, où elle enseigne à Fordham, Université de New-York et est visiteure à l'« Internet Society Project » de l’université de Yale, dans le Connecticut.

« Invitée par ces deux universités, j’ai travaillé dans le cadre d’un projet de recherche sur la comparaison des droits américains, européens et canadiens »

confie la spécialiste.

Un travail qu’elle poursuit depuis dans ses travaux et dans ses enseignements à Ottawa, où elle s’est établie en 2019. Aujourd’hui, elle est titulaire de la chaire de recherche L’intelligence artificielle responsable à l’échelle mondiale, de l’Université d’Ottawa, dirige celle de l’Institut interdisciplinaire de Toulouse ANITI en Droit, responsabilité et confiance sociale dans l'IA, a été nommée experte à l’Observatoire sur l’Économie des plateformes en ligne de la Commission européenne et est membre honoraire de l’Institut universitaire de France.

Comparaison vaut raison

« Les approches juridiques en matière d’IA entre la France, les États-Unis et le Canada sont différentes :  l’Union européenne formule la norme, les États-Unis donne le « la » du marché en lien avec les géants d’internet, tandis que le Canada tente de concilier les deux mouvements »

explique-t-elle.

Le Canada représente un intérêt tout particulier pour la recherche en la matière. L’État y conduit une politique fédérale volontariste, consent des investissements conséquents, bénéficie du travail des équipes des GAFAM (Google, Apple, Facebook, Amazon et Microsoft) qui y sont installées mais aussi de la présence d’experts de l’IA, à l’instar des chercheurs Yoshua Bengio, basé à Montréal et Geoffroy Hinton, membre du projet de recherche Google Brain de Toronto. Tous deux sont les pionniers de l’apprentissage profond et ont reçu ensemble le prix Turing, avec le français Yann le Cun.

De l’éthique au droit

Le Canada a été pionnier en matière de réflexion éthique, avec la « Déclaration de Montréal pour un développement responsable de l'intelligence artificielle », proposée dès 2017 par l'Université de Montréal.

« L’enjeu est aujourd’hui de se demander si les principes éthiques sont suffisants pour encadrer les risques sociaux générés par l’IA, dès lors que certains usages peuvent porter atteinte aux droits fondamentaux (vie privée, dignité, égalité, liberté d’opinion et de manifestation…). Il est nécessaire que le cadre soit plus précis, avec une norme plus obligatoire »

insiste la chercheuse.

Responsable d’un axe de recherche sur les droits humains pour le compte de l’Observatoire international sur les impacts sociétaux de l’IA et du numérique (OBVIA), elle travaille désormais sur la proposition de règlement de l’Union européenne qui a dévoilé en avril dernier toute une série de mesures et d’actions pour réguler l’IA. « Avec ces textes, nous allons au-delà des principes éthiques, nous formulons des normes qui couvrent tous les secteurs ». Elle établit un parallèle avec le système applicable aux États-Unis, qui prend la forme de normes sectorielles : droit sur les véhicules autonomes, la reconnaissance faciale, sur la concurrence entre les plateformes…

« La politique américaine n’est pas forcément moins efficace, car lorsque les organes de contrôle existent, l’application des normes est obligatoire, avec des sanctions élevées en cas de non-respect ».

À ce jour, il n’existe pas de droit international dans le domaine et une compétition des normes se développe. « L’État qui agit est susceptible de créer la norme, et celle-ci conditionne l’organisation des acteurs. Les autres États se posent en réaction, en complémentarité, sans pouvoir ignorer un texte plus global. Depuis le règlement général sur la protection des données (RGPD) entré en application en 2018, il existe un effet extraterritorial de la norme européenne : même si les acteurs sont positionnés hors de l’Union, ils doivent respecter sa norme dès lors qu’ils visent le marché européen. C’est un marché mondial très important que les États-Unis ou la Canada ne peuvent ignorer ». Ainsi, les entreprises américaines ou canadiennes sont encouragées par leurs juristes à se mettre en conformité avec le RGPD, adoptant des stratégies d’anticipation lorsqu’elles développent des produits qui concernent l’Europe.

« On pourrait se poser la question d’une sur-règlementation qui nuirait à l’innovation. J’y réponds plutôt par la négative, tous les textes sont complémentaires et vont dans le bon sens, d’autant qu’il existe des dispositifs pour encourager l’innovation. En outre, la sécurité et la stabilité du cadre légal sont des facteurs qui encouragent l’innovation »

estime-t-elle.

Pour une IA respectueuse et inclusive

« En tant qu’universitaire, je me suis concentrée sur la publication d’articles, mais ils ne sont lus que par des communautés d’experts. Notre rôle consiste à aller plus loin : faire partie des organes qui produisent les textes et influencent les politiques. »

Objectifs : à travers des notes d’orientation (Policy brief) rédigées à l’attention des responsables politiques Céline Castets-Renard s’attache à mettre l’accent sur les questions sociales, sociétales et environnementales, « les parents pauvres de la norme européenne ».

« L’Europe a le leadership normatif. Il est nécessaire qu’elle se positionne davantage sur ces thématiques »

prévient-elle.

Elle se dit « vigilante sur l’implémentation mondiale de l’IA », pour éviter que l’IA du nord ne s’applique défavorablement dans le sud : « ces nouveaux outils ne résolvent pas les problèmes locaux et présentent le risque de faire des habitants des pays les plus pauvres les cobayes des technologies. Je me méfie par exemple des actions humanitaires conduites par Microsoft ou Palantir, qui développent des programmes alimentaires en se présentant comme des entreprises qui offrent des solutions logicielles en matière d’éducation en échange de la collecte massive des données des étudiants ».  De même, parmi les thèmes dont elle se préoccupe, ceux de l’impact environnemental de la conservation des données, du pillage des métaux rares, de la formation à l’IA ou encore de la lutte pour une approche plus féministe et plus diverse de l’IA.

« C’est mon rôle de poser les questions sociales, au-delà des développements technologiques, ce que je fais au sein d’Aniti »

souligne-t-elle.

D’ici 10 ans, Celine Castets-Renard envisage, avec optimisme, le développement d’une culture IA commune et partagée, entre experts et citoyens. »

Voix off

• Quelle est la première chose que vous faites en vous levant ? J’allume mon téléphone mais je m’oblige à ne pas regarder immédiatement ma messagerie !
• Quel est votre principal trait de caractère ? J’aime transmettre, fédérer et aller de l’avant avec un collectif ; ce sont les domaines dans lesquels je me sens le plus à l’aise.
• À quelle époque auriez-vous aimé vivre ? Sous réserve que la pandémie de Covid prenne effectivement fin, notre époque me convient.
• Quel est l'objet préféré de votre bureau ? Quand j’ai quitté Toulouse, en 2017, mes étudiants -une promotion formidable- m’ont offert une figurine de Wonder Woman. Elle trône sur mon bureau.
• Ce que vous appréciez le plus chez vos collègues ? L’ouverture d’esprit, l’imagination et l’envie de collaborer. C’est ce que j’aime faire moi-même.
• Le don de la nature que vous voudriez avoir ? Savoir dessiner, je suis tellement mauvaise. La maman que je suis cultive une culpabilité à n’avoir jamais su faire de travaux manuels avec mes enfants.
• Quel rêve vous reste-t-il à accomplir ? Un but professionnel : parvenir à influencer effectivement les hommes et femmes politiques et voir aboutir toutes ces années de travail, au-delà des publications scientifiques.
• La dernière fois que vous avez ri aux larmes ? Je crois que c’était hier, durant une partie de Molki où j’étais ridicule.
• Quel chercheur.e vous a inspiré ? Étrangement, je n’ai pas une figure iconique. Je côtoie régulièrement des femmes inspirantes, en particulier ici au Canada. Je pense souvent au parcours de la juge américaine Ruth Bader Ginsburg, je me sens proche de ses positions.
• Quelle est la dernière chose que vous faites avant de vous coucher ? J’éteins mon téléphone après avoir consulté les informations.