IA de confiance et responsable : l’X et la FX lancent une chaire avec le soutien du Crédit Agricole

Soutenue par le DataLab du Crédit Agricole et portée par Sonia Vanier, chercheuse au Laboratoire d’informatique de l’École polytechnique (LIX*), la chaire « IA de confiance et responsable » a pour objectif de contribuer au développement de systèmes basés sur l'intelligence artificielle de confiance**, éthiques, robustes, sécurisés et durables. 

Le projet de recherche s’articule autour de deux grands axes. Il portera d’une part sur de nouvelles pistes d’amélioration pour des systèmes d’IA plus fiables, à travers une approche hybride entre plusieurs disciplines et mettant à contribution différentes communautés de recherche : l’IA symbolique, la recherche opérationnelle, l’IA connexionniste et l’apprentissage automatique. L’intégration dans ces systèmes des raisonnements et des valeurs issus des connaissances métiers des équipes opérationnelles permettront la construction de modèles menant à une prise de décision juste et cohérente vis-à-vis des cas d’usage. Pour atteindre une IA de confiance, il s’agira de détecter et de corriger les biais présents dans les données d’entraînement et risquant d’être reproduits par l’IA. Un autre point clé sera de développer des modèles dont on puisse facilement interpréter le cheminement, et avec un résultat explicable auprès des utilisateurs.

D’autre part, le projet vise à aboutir à une IA plus responsable d’un point de vue environnemental. Les dernières technologies, comme les récents modèles d’IA générative et les larges modèles de langage, nécessitent de plus en plus de données, de temps de calcul, et de ressources informatiques et énergétiques. Dans ce contexte, le projet vise à limiter cette empreinte environnementale, à travers la mise en place d’IA à moindre impact environnemental, et la conception d’algorithmes d’IA pour des applications à impact positif, par exemple pour l’optimisation de la consommation énergétique des bâtiments (connectés).

« Cette chaire, lancée avec Crédit Agricole S.A., permettra de créer un groupe de travail pluridisciplinaire réunissant chercheurs académiques et industriels autour des nouveaux enjeux de l’intelligence artificielle. La synergie entre les équipes de notre laboratoire, le LIX, nos partenaires académiques et industriels et nos étudiants permettra de développer de nouvelles approches pour exploiter au mieux la puissance des IA tout en prévenant les risques. L’IA bouleverse notre monde, nous ne sommes qu’au début de ces révolutions technologiques qui ne doivent pas être craintes mais être comprises », indique Sonia Vanier, porteuse et responsable scientifique de la nouvelle chaire.

* LIX : une unité mixte de recherche CNRS, École polytechnique, Institut Polytechnique de Paris

** Au sens de la déclaration de Margrethe Vestager, vice-présidente exécutive pour une Europe adaptée à l'ère du numérique : https://www.bercynumerique.finances.gouv.fr/une-europe-adaptee-lere-du-numerique