La conférence AIvolution au parlement européen coorganisée par des chercheurs de l’X

La conférence « AIvolution - Transforming the European Union´s Economy and Society » s’est déroulée le 16 novembre 2023 au parlement européen et a rassemblé plus de 60 enseignants et chercheurs de plusieurs universités en Europe - dont l'X et d'autres institutions membre d’IP Paris -, de députés de l’Union Européenne, ainsi que d’experts de l'industrie.

L’intelligence artificielle (IA), les technologies numériques et plus précisément leur potentiel de transformer l'économie et la société - de manière positive mais aussi de manière négative – ont été au centre des discussions, introduites par l'eurodéputée Eva-Maria Poptcheva.  

Abordant différents aspects techniques et scientifiques des dernières applications d'IA et les bases des technologies numériques qui permettent de collecter, de traiter et de transmettre des données, la conférence s’est intéressée de plus près aux implications politiques, sociales et environnementales de l’innovation technologique. Le fait de dépendre de plus en plus de solutions technologiques démontre la nécessité d’une délibération collective sur l’utilisation de ces dernières et d’instaurer des régulations claires à l’échelle de l’UE, ont souligné les participants.

Plusieurs enseignants-chercheurs de l’X, de Télécom Paris et de Télécom SudParis, ont participé aux débats, notamment Juan-Antonio Cordero-Fuertes, maître de conférence à l'École polytechnique et coorganisateur du colloque, Ruta Binkyte, chercheuse au Laboratoire d'informatique de l'École polytechnique (LIX) et à l'Inria dans le domaine de l’éthique de l'apprentissage automatique, Hervé Debar, enseignant-chercheur à IP Paris, Marceau Coupechoux, enseignant à IP Paris, Sonia Vanier, chercheuse à l'École Polytechnique et professeur à l'Université Paris1 Panthéon-Sorbonne, Oana Balalau, chercheuse à l'Inria et professeur associé à l’X, ainsi qu’Oana Goga, chercheuse au LIX et au CNRS.

Les quatre sessions thématiques de la conférence ont permis aux chercheurs, députés européens et experts de l'industrie présents de discuter des opportunités, des défis ainsi que des dangers - à la fois politiques et techniques - potentiels des technologies numériques et de l'IA en particulier.

Les avancées en matière de grands modèles linguistiques (LLM), les progrès de la robotique ou les possibilités de recherche et de traitement rapides d'information représentent des opportunités significatives. Cependant, les technologies numériques et l'IA comportent également de nombreux défis.

Les défis liés aux technologies numériques et à l’IA

Ainsi, la seconde session a été dédiée à l’examen de deux défis distincts : le premier lié au Big Data et aux droits numériques, et le second concernant la désinformation amplifiée et propagée par les réseaux sociaux.

L'augmentation exponentielle de la collecte et du trafic de données permettant la mise au point des technologies puissantes basés sur l'IA nécessite des mécanismes juridiques politiques et institutionnels pour garantir le respect des droits numériques et la confidentialité des données personnelles au niveau des États ou de l’UE.

Présidée par Juan-Antonio Cordero-Fuertes, cette seconde session a certes relevé le potentiel que l’IA représente pour la démocratie. Permettant une recherche et la vérification d’informations rapide, l’IA représente un outil puissant pour améliorer la qualité du débat public grâce à des mécanismes de vérification de faits, de révélation de conflits d'intérêts et de détection d’erreurs.

Mais la discussion a également mis en garde contre les risques potentiels de l’IA qui peut influencer, voire fausser et déstabiliser les conditions dans lesquelles des délibérations et décisions publiques se déroulent – que ce soit à travers de campagnes politiques ou par le biais d'attaques de désinformation délibérées sur les réseaux sociaux. Les chercheurs ont souligné la nécessité de rendre la divulgation et une plus grande transparence des algorithmes et d’utilisation des données personnelles collectées obligatoires pour les opérateurs des plateformes numériques d’échange.

Ils ont également attiré l'attention sur l'importance d'offrir un accès plus facile aux données et d'accorder une protection juridique renforcée aux scientifiques qui travaillent sur ces sujets. Selon les panélistes, il s’agit de mesures cruciales pour mieux cerner les effets des algorithmes utilisés par les réseaux sociaux, pour garantir que ceux-ci soient conformes au règlement général sur la protection des données (RGPD) et pour protéger les droits numériques des utilisateurs dans l'UE.

La session a par ailleurs mis en évidence l’importance d'un débat plus large - technique et politique – afin de déterminer quelle réglementation européenne est nécessaire pour protéger les droits numériques fondamentaux (confidentialité des données personnelles, droits des enfants, etc.), assurer la souveraineté numérique dans l'UE et protéger contre la désinformation sur les réseaux sociaux.

Énergie, soutenabilité et cybersécurité

Au cours d’une session consacrée à l’analyse des défis et des compromis nécessaires concernant les infrastructures numériques ainsi que la collecte et le traitement des données, les intervenants ont mis l'accent sur les implications des technologies numériques et l’IA en termes d’empreinte énergique, d’impact environnemental et de cybersécurité.

Au fur et à mesure que les services essentiels tel que le système de soins de santé, de transports ou d’installations énergétiques basculent dans un format digital, les risques liés à la cybersécurité augmentent. Mais les experts ont également abordé comment l'IA et les technologies numériques peuvent contribuer à répondre aux menaces qui pèsent sur la souveraineté numérique de l’Europe.

Cette session a examiné aussi un effet annexe problématique de la digitalisation, à savoir l’empreinte énergétique grandissante des technologies numériques liée au transfert et au stockage de données notamment. Les intervenants ont souligné que l’empreinte énergétique que la digitalisation est en contradiction avec les objectifs de sobriété énergétique visée par l’UE dans le cadre de la transition écologique.

L’impact environnemental du numérique concerne également les matières premières nécessaires à la fabrication des appareils et au maintien des infrastructures matérielles dont les services numériques ne peuvent se passer.

Les enjeux de la consommation en matières premières du numérique et les chaînes d'approvisionnement mondiales impliquant l'extraction et la distribution des matières premières critiques font par ailleurs l'objet de tensions géopolitiques croissantes qui affectent également l'UE.

L'impact social du changement technologique était au centre de la dernière session de la conférence. Plusieurs spécialistes de l'histoire, de la philosophie, du droit et de l'informatique y ont participé et ont permis d'aborder le sujet sous différents angles.

La technologie - et donc aussi les technologies numériques et l’IA – est certes un moteur de transformation sociale, mais elle est également le produit des conditions sociétales qui ont mené à son développement. En tant que tel, la technologie dépend fortement des attentes et des objectifs de la société et du débat public. D'un point de vue philosophique et sociologique, les intervenants ont discuté de la manière dont les tendances technologiques actuelles modifient la démocratie et produisent un certain type de citoyenneté, soumis à des politiques et à des incitations spécifiques qui se basent sur des données.

Alors que le recours numérique pour des services essentiels se généralise et devient omniprésent, son déploiement ainsi que les implications pour la société doivent être examinés et débattus à une échelle plus large. Le sujet nécessite une concertation multidisciplinaire continue entre scientifiques et ingénieurs, chercheurs et professionnels, décideurs politiques, législateurs et la société civile. La conférence "AIvolution", accueillie au parlement européen, s'inscrit dans cet effort de discussion scientifique et technique, dans lequel l'École Polytechnique s’engage résolument.