Joao Marques Silva, l’IA en toute logique

Par Valérie Ravinet, journaliste.

« Tous les hommes sont mortels. Or Socrate est un homme. Donc Socrate est mortel ».

Le célèbre syllogisme du philosophe Aristote est, depuis la Grèce antique, une base de réflexion dans de multiples domaines pour le raisonnement logique. Et c’est le sujet de prédilection de Joao Marques Silva pour ses recherches en intelligence artificielle.

Vrai ou faux ?

Plus précisément, le chercheur s’intéresse, depuis sa thèse, à la formalisation du raisonnement, la prise de décision et la compréhension des paramètres qui président au choix des algorithmes.

« C’est ce qu’on appelle la logique propositionnelle, ou "problème de satisfiabilité propositionnelle, SAT en acronyme" »

explique le chercheur CNRS.

Le SAT, qui permet de déterminer si une formule est vraie ou fausse, est considéré comme l’un des problèmes fondamentaux de la théorie mathématique de la complexité ; un problème de décision qui se classe parmi les sept défis réputés insurmontables. Sa résolution fait même l’objet d’un prix instauré par l’Institut de mathématiques américain Clay… d’un million de dollars !

La contribution de Joao Marques Silva prend la forme du développement du programme SAT baptisé GRASP (Generic seaRch Algorithm for the Satisfiability Problem), un algorithme capable de produire des raisonnements et résoudre des problèmes théoriques comme réels avec des applications dans de multiples domaines. Et notamment, aujourd’hui, dans les domaines des systèmes critiques, ceux dont les pannes peuvent avoir des conséquences dramatiques, comme les véhicules autonomes.

De la logique à l’intelligence artificielle

Joao Marques Silva, né au Portugal, a traversé les mers à plusieurs reprises pour ses études, puis pour son travail. Diplômé en génie électrique et informatique Technical University of Lisbon en 1991, le jeune homme d’alors rejoint l’Université du Michigan. Dès ses années de doctorat, il s’intéresse au raisonnement formel automatisé, l’un des sous-domaines de l’intelligence artificielle. De retour à Lisbonne, il se consacre à l’enseignement durant une dizaine d’années, avant de s’embarquer pour l’Angleterre, Université de Southampton, qu’il quitte pour Dublin, University College. Puis retour à Lisbonne en 2015, jusqu’en 2019 où il intègre l'Institut de recherche en informatique de Toulouse (IRIT - équipe ADRIA) et prend la direction d’une chaire ANITI, l’institut interdisciplinaire d’intelligence artificielle de Toulouse.

« Mes voyages m’ont permis de grandir avec la recherche, à travers différentes cultures. Mon expérience m’a préparé au travail que je fais aujourd’hui »

note le chercheur qui a intégré le corps des directeurs de recherche CNRS en 2020.

Ses travaux valent à Joao Marques Silva des reconnaissances qui se confirment tout au long de sa carrière, dont le prix CAV - Computer-Aided Verification - en 2009. Il est également sociétaire de l’Institut des ingénieurs électriciens et électroniciens, l’IEEE, association professionnelle basée aux Etats Unis qui compte plus de 400 000 membres et a rejoint l’Association for Computing Machinery (ACM), autre regroupement international dédié à l’informatique, basée à New-York, et dont la mission est de développer et soutenir la recherche scientifique et l'innovation informatique.

Expliquer les décisions des algorithmes

La notion d’ « explicabilité » est un élément essentiel pour permettre la confiance dans les décisions prises par les algorithmes d’IA, et c’est l’un des axes de recherche retenus par l’institut ANITI. En 2019, Joao Marques Silva devient titulaire de la chaire Deep learner explanation & verification, résumée sous l’appellation « DeepLever ». Objectif : expliquer les modèles d’apprentissage machine et les prédictions des réseaux neuronaux, en s’appuyant sur les raisonnements formels et les progrès réalisées par les programmes automatisés, dont les fameux SAT.

« C’est le début d’un nouveau champ de recherche qui utilise des méthodes logiques pour expliquer les décisions des algorithmes. »

Pour illustrer, il donne l’exemple suivant : imaginons que deux personnes se rendent à la banque pour obtenir un prêt. Elles ont toutes les deux à peu près le même âge et le même salaire. L’une d’elle obtient le prêt, l’autre non, alors que les dossiers ont été soumis au même algorithme d’IA. « Notre recherche a pour objectif de rendre la décision explicable, de la simplifier pour qu’elle soit compréhensible par tous. Cela revient à mettre en avant les paramètres les plus importants qui participent à la décision de l’obtention du prêt, et non d’énoncer toutes les raisons qui ont présidé à la décision. On doit être capable de fournir la bonne explication, et renseigner sur la manière dont celui qui n’a pas obtenu le prêt aurait dû procéder pour l’obtenir ».

IA hybride, en toute logique

Ce domaine de recherche s’avère éminemment stratégique.

« Beaucoup de travaux sont consacrés à l’explicabilité des algorithmes ; notre particularité est de nous baser sur des vérités mathématiques. C’est sur ce thème que nous avons concentré la majorité de nos efforts »

commente le chercheur.

L’équipe, particulièrement prolixe, a publié entre 2019 et 2021 près d’une centaine d’articles sur le sujet. « Je connaissais les travaux de Joao Marques Silva avant d’intégrer l’équipe », raconte Martin Cooper, professeur des universités, membre de l’Institut de recherche en informatique de Toulouse (IRIT), attaché à la chaire de Joao Marques Silva. « C’est un travailleur acharné et très exigeant ; nous avons réalisé avec lui des découvertes majeures », s’enthousiasme le chercheur.

En ligne de mire : intégrer l’IA symbolique, celle du raisonnement logique, dans des méthodes basées sur les données et l’apprentissage.

« Je viens du monde du raisonnement symbolique, logique. Depuis le début des réflexions sur l’IA, on se rend compte que travailler sur ce raisonnement ne suffit pas. Les méthodes hybrides devraient être une bonne avancée. C’est le défi que nous voulons relever dans un futur très proche »

indique Joao Marques Silva, totalement satisfait par une vie consacrée à la recherche.

Voix Off

• Quelle est la première chose que vous faites en vous levant ? La plupart du temps, je jette un œil à mes messages mail puis je planifie ma journée à venir, qui sera totalement consacrée à la recherche.
• Quel est votre principal trait de caractère ? Je dirais… persévérance ?
• À quelle époque auriez-vous aimé vivre ? À n’importe quel moment et n’importe quel endroit où je pourrais faire uniquement de la recherche.
• Quel est l'objet préféré de votre bureau ? Mon ordinateur ! Il y a dix ans, j’aurais peut-être dit mon carnet de note, mais aujourd’hui, c’est définitivement mon ordinateur.
• Ce que vous appréciez le plus chez vos collègues ? J’aime la pluralité des points de vue, c’est très utile pour approfondir et aiguiser sa propre pensée.
• Le don de la nature que vous voudriez avoir ? Savoir voler, pour être libre.
• Quel rêve vous reste-t-il à accomplir ? Probablement contribuer à éviter un prochain hiver de l’IA. J’espère que mon travail sera utile dans ce sens.
• La dernière fois que vous avez ri aux larmes ? Je ris beaucoup ! J’adore les séries comiques que je regarde avec ma femme.
• Quel chercheur.e vous a inspiré ? Il y a tant de chercheurs fascinants, je pourrais en citer beaucoup : Albert Einstein, Newton, Galilée… Dans le cadre de mes recherches, je citerais le mathématicien et informaticien Stephen Cook pour son travail sur la théorie de la complexité et auteur du théorème éponyme.
• Quel est la dernière chose que vous faites avant de vous coucher ? Je regarde mes mails !