Éric Moulines lauréat d'une bourse ERC Synergy Grant avec le projet OCEAN pour un nouveau paradigme en IA

Le 25 octobre 2022, le Conseil Européen de la Recherche a annoncé les 29 projets sélectionnés dans le cadre de son premier appel Synergy du programme Horizon Europe. Parmi les lauréats, Éric Moulines, professeur à l’École polytechnique, a été distingué dans le cadre d’une bourse « ERC Synergy Grant » pour le projet OCEAN avec Michael Jordan de l’université de Californie à Berkeley, Christian Robert, de l’université Paris Dauphine-PSL et Gareth Roberts de l’université de Warwick.

Les ERC Synergy Grant ont pour objectif de soutenir des groupes de deux à quatre chercheurs à mettre en commun leurs compétences, leurs connaissances et leur savoir-faire afin de leur permettre d’entreprendre des recherches sur des problèmes complexes du monde actuel, qui couvrent plusieurs disciplines scientifiques.

Le projet OCEAN, On IntelligenCE And Networks, vise à repousser les limites du modèle actuel d’intelligence artificielle en développant une nouvelle méthodologie d’apprentissage, de façon partagée entre les différents utilisateurs, chacun conservant son autonomie et le contrôle sur ses données.
Le point de départ de cette collaboration est l’apprentissage fédéré, federated learning, où plusieurs agents participent à la tâche d’apprentissage tout en gardant le contrôle sur leurs données. OCEAN se concentrera dans un premier temps sur quelques manques identifiés, comme la gestion de l’incertitude sur le résultat donné par un algorithme ou le fait que certains utilisateurs peuvent vouloir profiter des données des autres sans fournir eux-mêmes des données viables, free-riders, avant de rechercher un nouveau modèle d’apprentissage central.

Pour Éric Moulines, professeur à l’École polytechnique au CMAP[1] : « Un aspect essentiel de notre vision est qu'elle est explicitement économique et stratégique. On peut s'attendre à ce que les agents cherchent à obtenir une compensation équitable pour les divers coûts qu'ils encourent dans un processus d'apprentissage collectif, notamment la perte de confidentialité, les coûts de communication et de latence, et la perte de compétitivité.
Une forme naturelle de compensation est la capacité d'obtenir des prédictions plus précises, où la prédiction n'est plus définie globalement, mais localement et contextuellement. Les agents qui attendent une compensation pour leur participation agissent comme des agents économiques. Les agents peuvent adopter des comportements stratégiques, par exemple souhaiter manipuler les données qu'ils partagent en ne révélant qu'un sous-ensemble ou en ajoutant du bruit. La portée complète de notre projet inclut une grande variété d'autres types d'interactions entre les agents économiques : la concurrence, la sécurité des données et les contraintes légales. La collecte et l'analyse des données sont souvent associées à des boucles de rétroaction dans lesquelles les agents peuvent essayer d'optimiser les prédictions du modèle à leur profit. Notre approche combine explicitement les concepts microéconomiques avec des concepts d'apprentissage automatique fédéré. »

Financé par le Conseil européen de la recherche (ERC), à hauteur de 10 millions d’euros sur 6 ans, le projet est une collaboration entre des équipes de recherche interdisciplinaires de plusieurs institutions, respectivement menées par Éric Moulines, École polytechnique, Michael Jordan, université de Californie à Berkeley, Christian Robert, université Paris Dauphine-PSL et Gareth Roberts de l’université de Warwick.