Explication d'algorithmes d'IA'boîtes noires' par exemples d'apprentissage

L'ambition de la Division Innovation est de porter plus loin l'innovation d'Orange et de renforcer son leadership technologique, en mobilisant nos capacités de recherche pour nourrir une innovation responsable au service de l'humain, éclairer les choix stratégiques du Groupe à long terme et influencer l'écosystème digital mondial.

Nous formons les expertes et les experts des technologies d'aujourd'hui et de demain, et veillons à une amélioration continue de la performance de nos services et de notre efficacité.
La division Innovation rassemble, dans le monde, 6000 salariés dédiés à la recherche et l'innovation dont 720 chercheurs. Porteurs d'une vision globale avec une grande diversité de profils (chercheurs, ingénieurs, designers, développeurs, data scientists, sociologues, graphistes, marketeurs, experts en cybersécurité...), les femmes et les hommes de Innovation sont à l'écoute et au service des pays, des régions et des business units pour faire d'Orange un opérateur multiservices de confiance.


Au sein d'Innovation, vous serez intégré(e) dans une équipe de recherche à la pointe de l'innovation et de l'expertise sur l'intelligence artificielle et ses applications industrielles pour la maintenance, la supervision, le marketing parmi d'autres.Vous ferez partie d'un écosystème de recherche côtoyant des ingénieurs d'études en anticipation (plus court terme) permettant la mise en oeuvre concrète des concepts étudiées à des cas d'usages réels.

Votre rôle est d'effectuer une thèse de doctorat sur l'explication d'algorithmes d'IA "boîtes noires" par ses exemples d'apprentissage.

Contexte global et problématique du sujet
Les progrès récents des méthodes d'apprentissage ont amené de nouvelles applications en IA porteuses de promesses d'automatisation pour gagner en efficacité opérationnelle ou soulager les métiers de tâches peu intéressantes. Ces IA reposent la plupart du temps sur des modèles surparamétrés, dont les paramètres sont appris sur d'immenses jeux d'apprentissage. De ce fait, elles sont qualifiées d'"opaques": il est impossible de comprendre précisément le processus qui amène à des décisions une fois le système mis en production. Parallèlement, le régulateur (IA Act), les utilisateurs métiers, les utilisateurs finaux demandent plus de transparence, ont un besoin d'explicabilité de ces algorithmes.
Ces dernières années ont vu l'émergence de méthodes d'explicabilité, chacune avec les avantages et inconvénients. Les méthodes d'explicabilité identifient les exemples d'apprentissage qui portent des décisions d'une IA [1], explication parlante pour les non-experts, proche de la manière dont les personnes raisonnent. Ces méthodes ont par exemple été récemment appliquées des modèles de langage à l'état de l'art [2].

Objectif scientifique
La thèse consistera en un état de l'art des avancées théoriques, algorithmiques et pratiques de ces méthodes afin d'en tirer de nouvelles pistes de recherche, de proposer de nouvelles méthodes en partenariat avec les encadrants. Nous avons pré-identifié les verrous à lever:
le passage à l'échelle des méthodes demandant des ressources, en se basant sur des algorithmes approchés récents[3]
la formalisation de la bonne manière d'attribuer son importance à chaque exemple d'entraînement, lorsque la prédiction effectuée par modèle repose sur plusieurs d'entre-eux[4]
l'identification de groupes d'exemples qui amènent à des comportements non-désirés, tels que des prédictions inéquitables envers certains groupes d'instances, des exemples mal-étiquetés ou des anomalies.[5]
la problématique de l'ergonomie par la mise à disposition de ces explications à des utilisateurs réels, non experts data scientists, ou des ergonomes d'Innovation experts sur la réception d'objets techniques en condition de travail. [6]
Au cours de la thèse, vous serez amené à publier des nouvelles productions scientifiques, faire des conférences, en interne, et au laboratoire d'accueil.

Compétences (scientifiques et techniques) et qualités personnelles exigées par le poste
Excellent niveau en mathématiques/statistiques
Programmation (Python, Scikit learn, Pytorch), avoir un dépôt github avec des projets est un plus
Être capable de résoudre des problèmes complexes, et être créatif pour proposer des solutions innovantes
S'intégrer dans une équipe de travail
Idéalement, avoir une sensiblité pour les questions autour de l'IA éthique: équité, transparence, frugalité
Excellentes compétences rédactionnelles (anglais)
Capacités de synthèse et de communication.

Formation demandée
Ecole d'ingénieur ou M2 recherche (par exemple MVA), avec une forte composante en apprentissage automatique
Expériences souhaitées
Stage avec une composante développement de modèles en apprentissage
Idéalement, une expérience en recherche démontrée