Lancement des “Communs Démocratiques” : Une initiative de recherche française prend le lead mondial pour construire une IA éthique au service de la démocratie

Marina Ferrari, Secrétaire d’État chargée du Numérique "Ce projet s’inscrit dans ce que l’Etat souhaite faire pour accompagner le développement de l’IA, il est au cœur de notre stratégie. Aujourd’hui il est important que ce programme se diffuse de manière mondiale et que d’autres s’en saisissent, c’est aussi un point de l’excellence française dans l’innovation”.

Paris, 24 mai 2024 - Make.org, Sciences Po, Sorbonne Université et le CNRS annoncent le lancement du programme de recherche "Communs Démocratiques". Ce projet vise à exploiter le potentiel de l'IA générative pour préserver et renforcer les fondements de la démocratie dans un monde confronté à une crise de confiance institutionnelle sans précédent et à une guerre informationnelle croissante.

Face aux défis actuels, le programme "Communs Démocratiques" réunira plus de 50 chercheurs et ingénieurs sur une période de deux ans. Son objectif principal est de développer et de partager en open source un cadre scientifique de détermination des principes démocratiques appliqués à l’IA, un modèle d'évaluation des biais des LLM par rapport à ses principes, des LLM débiaisés et des plateformes de participation citoyenne conformes à ces principes.

Cette démarche multidisciplinaire inédite associe une expertise avancée en data science à une connaissance pointue des sciences humaines et sociales. Elle s’est adossée à cinq partenaires de référence de l’IA éthique : Hugging Face, Aspen Institute, Mozilla.ai, Project Liberty Institute et le Genci. Pour garantir la qualité et la pertinence des travaux, un Conseil Scientifique de Supervision a été mis en place, réunissant des sommités internationales telles que Yochai Benkler (Berkman Klein Center), Hélène Landemore (Yale), Karine Perset (OECD.ai), Asma Mhalla (EHESS/CNRS - Columbia), Raja Chatila (Sorbonne Université), Michelle Barsa (Omidyar Network) et Djamé Seddah (Inria).

Cette initiative est ce que nous aurions dû faire il y a 20 ans pour les réseaux sociaux : exploiter leurs meilleures fonctionnalités tout en veillant à ce qu'ils ne détériorent pas la démocratie. Demain, grâce au programme “Communs Démocratiques”, tous les États et les villes du monde entier auront accès gratuitement à une intelligence artificielle qui respectera les principes démocratiques.

Cela souligne l'expertise reconnue de la France en matière d'intelligence artificielle sur la scène internationale. Cela marque également la continuité du rôle historique de la France dans la protection des droits de l'homme et la sauvegarde de la démocratie.

Axel Dauchez et Alicia Combaz, fondateurs de Make.org : "L'abstention électorale qui progresse reflète une crise profonde de confiance envers les institutions démocratiques. Cette méfiance est exacerbée par la montée des conflits mondiaux alimentant une guerre informationnelle visant à déstabiliser la démocratie, et l'émergence de l'IA générative, amplifiant leurs moyens d’action. Dans ce contexte, il était prioritaire pour Make.org de s’investir massivement dans la construction d’une IA au service de la démocratie”

Antoine Petit, Président Directeur Général du CNRS : “L'IA générative et les grands modèles linguistiques révolutionnent de multiples secteurs d’activités, de la justice à l’éducation en passant par la santé ou encore les industries culturelles. Anticiper les impacts de ces technologies sur la société - et notamment sur l'exercice de la citoyenneté dans les espaces numériques - devient urgent. Le CNRS apporte à ce projet des expertises qui se complètent, en sciences informatiques, sciences politiques et sciences du langage. Cet éclairage pluridisciplinaire est indispensable pour apporter des réponses aux multiples défis scientifiques posés par l’étude des biais des IA génératives et le contrôle de leurs possibles impacts”

Nathalie Drach-Temam, Présidente de Sorbonne Université : « Sorbonne Université démontre une nouvelle fois avec “Communs Démocratiques” l’excellence de ses recherches pour une IA plus démocratique et plus sûre. Ce projet est d’autant plus fondamental dans la perspective des élections européennes à venir. »

Jean-Philippe Cointet, Directeur de l’Institut Libre des Transformations Numériques de Sciences Po : “Alors que l'IA met à l'épreuve les principes démocratiques de nos sociétés, les sciences humaines et sociales ont un rôle décisif à jouer dans la compréhension et l'analyse des transformations numériques. Sciences Po, en tant qu'université de recherche de rang mondial, porte l'ambition de décrypter et d'apporter des réponses concrètes aux grands enjeux contemporains. C'est pourquoi notre institution, l'une des premières universités à se doter d'un Institut libre des transformations numériques, s'engage dans l'élaboration de ces Communs Démocratiques, en partenariat avec des informaticiens qui développent ces technologies et en observant in situ les usages qu’elles génèrent.”

Paul-François Fournier, Directeur exécutif Innovation de Bpifrance : “L’intelligence artificielle a le potentiel de révolutionner positivement l'engagement constructif des citoyens dans la vie publique en réduisant les obstacles à leur participation. La confiance et la transparence sont des éléments essentiels à son développement et à son appropriation inévitable par l’ensemble des acteurs. Nous sommes heureux d’accompagner ce programme mondial de recherche qui permettra d’identifier qualitativement et quantitativement les biais démocratiques, de corriger les modèles d’IA et de guider le développement vertueux de ces futurs modèles grâce à une mise à disposition open-source des résultats.”