Thèse "Explication d'algorithmes d'IA "boîtes noires" par ses exemples d'apprentissage "F/H

votre rôle

Votre rôle est d’effectuer une thèse de doctorat sur l’explication d’algorithmes d’IA "boîtes noires" par ses exemples d'apprentissage.

Contexte global et problématique du sujet

Les progrès récents des méthodes d’apprentissage ont amené de nouvelles applications en IA porteuses de promesses d’automatisation accrue pour gagner en efficacité opérationnelle ou soulager les métiers de tâches peu intéressantes. Ces IA reposent la plupart du temps sur des modèles surparamétrés (on parle d’apprentissage profond), dont les paramètres sont appris sur d’immenses jeux d’apprentissage. De ce fait, elles sont souvent qualifiées d’”opaques”: il est impossible de comprendre précisément le processus qui amène à des décisions une fois le système mis en production. Parallèlement, le régulateur (IA Act), les utilisateurs métiers, ainsi que les utilisateurs finaux sont en demande de plus de transparence, ce qui amène un besoin d’explicabilité de ces algorithmes.

Ces dernières années ont vu l’émergence de nombreuses méthodes d’explicabilité, chacune avec leurs avantages et inconvénients. Parmi elles, les méthodes d’explicabilité par l’exemple identifient les exemples d’apprentissage qui portent des décisions d’une IA [1]. Cela permet ainsi d’offrir une explication parlante pour les non-experts, proche de la manière dont les personnes raisonnent : “je pense qu’il s’agit de XXX car j’ai déjà vu un cas similaire par le passé”. Ces méthodes ont par exemple été récemment appliquées des modèles de langage à l’état de l’art [2].

Objectif scientifique

La thèse consistera en une partie état de l’art des avancées théoriques, algorithmiques et pratiques de ces méthodes afin d’en tirer de nouvelles pistes de recherche, ainsi que de proposer de nouvelles méthodes en partenariat avec les encadrants (à Orange Innovation et académique). Nous avons pré-identifié un certain nombre de verrous à lever:

• le passage à l’échelle des méthodes qui peuvent être gourmandes en ressources (mémoire, complexité algorithmique), en se basant sur des algorithmes approchés récents [3]
• la formalisation de la bonne manière d’attribuer son importance à chaque exemple d’entraînement, lorsque la prédiction effectuée par modèle repose sur plusieurs exemples d’entraînement [4]
• l'identification de groupes d’exemples qui amènent à des comportements non-désirés, tels que des prédictions inéquitables envers certains groupes d’instances, des exemples mal-étiquetés ou des anomalies. [5]
• la problématique de l’ergonomie en vue de la mise à disposition de ces explications à des utilisateurs réels, et non pas à des experts data scientists. Ici, on aura l’occasion d’échanger avec des ergonomes d’Innovation experts sur la réception d’objets techniques en condition de travail. [6]

Au cours de la thèse, le ou la candidate sera également amené à publier ses nouvelles productions scientifiques, et à les présenter à des conférences, en interne, et au laboratoire d'accueil.