Nicolas Dugué

Passer des « boîtes noires » aux « boîtes blanches »

Aujourd'hui, la plupart des modèles d'intelligence artificielle, comme ChatGPT, fonctionnent comme des « boîtes noires » : ils produisent des résultats impressionnants, mais les chercheurs peinent à expliquer précisément comment les décisions sont prises ou pourquoi tel texte a été généré plutôt qu’un autre. Nicolas Dugué se définit comme un « physicien de l’IA » : son rôle est de mettre en lumière les mécanismes internes qui sous-tendent ces algorithmes.

L’objectif majeur de ses recherches est de transformer ces systèmes opaques en « boîtes blanches ». « L'idée, c'est de faire un pont entre nos rendus informatiques qui sont générés et l'humain, de façon à ce qu'on puisse regarder nos modèles à la fin et comprendre ce qui s’y passe réellement » souligne le chercheur.

Un enjeu de contrôle et de justesse sociale

L'enjeu de cette transparence n'est pas seulement scientifique ; il est aussi éthique et juridique. Rendre l'IA compréhensible permettrait de :

• justifier les décisions automatiques : dans la fonction publique, la loi impose de pouvoir expliquer un algorithme si un citoyen souhaite le contester ;
• neutraliser les biais : les modèles actuels « digèrent » des milliards de données issues du web qui contiennent des stéréotypes racistes ou sexistes. En ouvrant le capot, le chercheur espère pouvoir isoler et supprimer ces biais.

Une recherche sobre face au défi énergétique

Contrairement à l'engouement général, Nicolas Dugué porte un regard nuancé sur l'IA générative massive, qu'il décrit comme un obstacle pour la transition énergétique en raison de sa consommation colossale d'électricité, d'eau et de métaux.
Ses travaux se concentrent donc sur des modèles plus petits et spécialisés, moins gourmands en énergie et plus faciles à contrôler.

Le financement « Étoiles Montantes » va lui permettre de porter sa vision d’une IA sobre et agit comme un tremplin stratégique. Il doit permettre à Nicolas Dugué de consolider son équipe et ses travaux pour décrocher un financement d'envergure auprès du Conseil européen de la recherche (ERC). L'objectif final est de pérenniser au Mans un pôle d'excellence capable de garantir que l'humain conserve le contrôle de ses outils et de ses rythmes de travail, face à une automatisation qui transforme déjà de nombreux secteurs professionnels.

Mini bio

Nicolas Dugué - enseignant-chercheur en informatique

• Maître de conférences depuis 2016 à Le Mans Université
• Doctorat obtenu en 2015 à LIFO d’Orléans

Ses travaux de recherche portent notamment sur la fouille de graphes et de corpus textuels, notamment pour l'analyse des médias sociaux et de l'évolution de la science. Plus récemment, il a spécialisé son travail sur l'interprétabilité et la sobriété des méthodes d’apprentissage automatique appliquées au langage au sein de l’équipe LST (Language and Speech Technology team) du LIUM