Je soutiens l'X
- Accueil
- Actualités
- Plateformes En Lignes : Des Utilisateurs Sous Influence
Plateformes en lignes : des utilisateurs sous influence
En 2018, la société Cambridge Analytica fait la une des journaux. L’entreprise londonienne a développé un programme informatique capable de prédire et potentiellement d’influencer le choix des électeurs américains au moment des élections présidentielles de 2016. En répondant à un test de personnalité sur Facebook, 270 000 utilisateurs de la plateforme se sont vu siphonner leurs données personnelles et leur historique d’interactions. Sans le savoir, elles ont ouvert l’accès aux informations concernant leurs amis et permis d’établir le profil psychologique de 87 millions d’utilisateurs. Ces données ont ensuite été utilisées dans le cadre de la campagne électorale de 2016 de Donald Trump pour cibler les messages selon les profils et augmenter les chances de faire basculer l’élection en sa faveur.
Influence des technologies de ciblage
« Les technologies de ciblages - alimentées par des algorithmes, eux-mêmes pilotés par une intelligence artificielle - étaient initialement utilisées pour la vente de produits. Le scandale Cambridge Analytica a montré qu’elles s’appliquent aujourd’hui à l’information et qu’elles ouvrent la voie à la manipulation des utilisateurs des plateformes en lignes (Google, Facebook, Tik Tok…) », souligne Oana Goga, chargée de recherche au laboratoire d’informatique de l’École Polytechnique (LIX*). L’Union européenne prend d’ailleurs le sujet très au sérieux. Craignant une militarisation de la technologie ou l’instrumentalisation des électeurs, elle a pris en compte les travaux de la chercheuse pour élaborer le Digital Services Act de 2022 et, à travers ce dernier, demander davantage de transparence aux plateformes.
La même année, la commission européenne de la recherche a alloué à la scientifique une bourse ERC Starting Grants de 1,5M € sur cinq ans pour son projet Momentous (Measuring and Mitigating Risks of AI-driven Information Targeting) dédié à l’étude des risques liés au ciblage de l’information.
« Dans un premier temps, nous cherchons à déterminer à quel point les biais cognitifs (raisonnements rapides, raccourcis, poussant à prendre des décisions hâtives) d’une personne peuvent être utilisés pour influencer ses opinions et ses préférences. Nous nous appuyons pour cela sur des études randomisées contrôlées et sur une technologie qui combine informatique et économie comportementale », explique Oana Goga. L’équipe Momentous braquera ensuite ses projecteurs sur les algorithmes de ciblage afin de déterminer ce qu’ils sont capables d’apprendre par eux même, des vulnérabilités et des biais cognitifs des utilisateurs des plateformes. Enfin, le dernier volet du projet étudiera comment ces technologies de ciblage impactent la qualité de l’information reçue et assimilée par les utilisateurs.
Auditer les plateformes en ligne
Pour mener à bien le projet Momentous, Oana Goga bénéficie de l’expertise qu’elle a développée en étudiant les dangers des plateformes en ligne pour les sociétés et les démocraties. Dans la lignée de l’affaire Cambridge Analytica et peu avant les élections présidentielles brésiliennes de 2018, la chercheuse avait réalisé une étude auprès d’utilisateurs locaux de Facebook. Elle avait fourni à ces derniers un outil de collecte des publicités qu’ils avaient reçues tandis qu’un algorithme distinguait contenus politiques et non politiques. « Cette méthode d’analyse et de mesure permet d’auditer les techniques de ciblage mises en place par les plateformes et les risques qui y sont liés. Elle utilise le don de données, c’est un concept particulièrement innovant en recherche informatique ». Grâce à ce procédé, Oana Goga a pu démontrer que la Facebook Political Ad Library n’affichait pas l’ensemble des publicités politiques produites à cette époque malgré des annonces de transparence et présentait un risque d’influence des électeurs.
Les travaux de l’ERC Momentous s’inscrivent dans cette dynamique et fourniront à terme, une base solide à des technologies garantissant un ciblage sain et durable des informations délivrées sur les réseaux sociaux.
*LIX : une unité mixte de recherche CNRS, École polytechnique - Institut Polytechnique de Paris
Plus d’informations :