Vers un nouveau paradigme en intelligence artificielle

L’intelligence artificielle, et en particulier le domaine de l’apprentissage statistique (machine learning), ont réalisé des progrès considérables ces dernières années. Les algorithmes de reconnaissance d’image, de reconnaissance vocale et de traduction automatique en constituent des réussites déjà implantées dans la vie courante. Mais le modèle actuel d’intelligence artificielle possède des limites. Il fonctionne de manière très centralisée : chaque utilisateur fournit ses données, puis les calculs sont effectués en un seul endroit. Cela pose notamment des problèmes techniques (embouteillage lors du traitement des informations) et sociaux (confidentialité des données, centralisation du pouvoir).

Le projet OCEAN (On IntelligenCE And Networks) vise à développer une nouvelle méthodologie d’apprentissage où celui-ci se fait de façon partagée entre les différents utilisateurs, chacun conservant son autonomie et le contrôle sur ses données. Financé par le Conseil européen de la recherche (10 millions d’euros sur 6 ans), ce projet est une collaboration entre des équipes de recherche de plusieurs institutions, respectivement menées par Éric Moulines (Ecole polytechnique, Michael Jordan (université de Berkeley), Christian Robert (université Paris Dauphine-PSL) et Gareth Roberts (université de Warwick).

Le point de départ de cette collaboration est l’apprentissage fédéré (federated learning), où plusieurs agents participent à la tâche d’apprentissage tout en gardant le contrôle sur leurs données. Ce principe est en plein essor depuis quelques années, par exemple dans les algorithmes de « next word search » qui proposent des mots pour compléter une phrase tapée dans une barre de recherche (dans ce cas, l’apprentissage se fait sans que les requêtes soient enregistrées et stockées à cette fin). Mais le paradigme reste d’avoir un modèle d’apprentissage central.

OCEAN compte aller plus loin en se concentrant d’abord sur quelques manques de l’apprentissage fédéré, comme la gestion de l’incertitude sur le résultat donné par un algorithme ou le fait que certains utilisateurs peuvent vouloir profiter des données des autres sans fournir eux-mêmes des données viables (free-riders), ou que d’autres utilisateurs peuvent avoir intérêt à biaiser l’algorithme en leur faveur. Il faut alors trouver des mécanismes économiques afin de récompenser ceux qui fournissent des données de bonne qualité.

« Considérer chaque utilisateur comme un agent actif qui a sa propre stratégie constitue un nouveau paradigme pour l’intelligence artificielle » explique Éric Moulines, professeur à l’Ecole polytechnique au Centre de mathématiques appliquées (CMAP*). Outre l’apprentissage, il s’agit d’étudier comment prendre des décisions dans un environnement partagé. Les possibles applications seraient, par exemple, de s’accorder dans un marché mettant en relation des producteurs et des consommateurs d’énergie.

L’ensemble de ces questions ouvre des pistes de recherches encore très fondamentales, qui restent à explorer. C’est aussi un sujet émergent où la recherche académique peut apporter des idées importantes et originales dans un domaine très compétitif. La collaboration OCEAN regroupe pour cela des spécialistes majeurs des mathématiques et de l’apprentissage statistique et des équipes interdisciplinaires (systèmes multi-agents, microéconomie et théorie des jeux, théorie de la décision, etc.).

En savoir plus sur les ERC synergy Grant :

Les ERC Synergy Grant ont pour objectif de soutenir des groupes de deux à quatre chercheurs à mettre en commun leurs compétences, leurs connaissances et leur savoir-faire afin de leur permettre d’entreprendre des recherches sur des problèmes complexes du monde actuel, qui couvrent plusieurs disciplines scientifiques.

*CMAP : une unité mixte de recherche CNRS, École polytechnique - Institut Polytechnique de Paris