{"id":11041,"date":"2024-06-05T11:57:43","date_gmt":"2024-06-05T09:57:43","guid":{"rendered":"https:\/\/www.isir.upmc.fr\/?post_type=isir_news&p=11041"},"modified":"2024-06-05T11:57:43","modified_gmt":"2024-06-05T09:57:43","slug":"communs-democratiques-lia-ethique-au-service-des-debats-citoyens","status":"publish","type":"isir_news","link":"https:\/\/www.isir.upmc.fr\/actualites\/communs-democratiques-lia-ethique-au-service-des-debats-citoyens\/","title":{"rendered":"\u00ab\u00a0COMMUNS D\u00c9MOCRATIQUES\u00a0\u00bb : L’IA \u00c9THIQUE AU SERVICE DES D\u00c9BATS CITOYENS"},"content":{"rendered":"\n

Source de l\u2019article\u00a0:\u00a0Sorbonne Universit\u00e9<\/a><\/strong><\/p>\n\n\n\n

\u00c0 l’occasion des \u00e9lections europ\u00e9ennes, Fran\u00e7ois Yvon, directeur de recherche \u00e0 l’ISIR, nous pr\u00e9sente le\u00a0projet \u00ab\u00a0Communs D\u00e9mocratiques\u00a0\u00bb<\/a>. Port\u00e9 par la plateforme Make.org, Sciences Po, Sorbonne Universit\u00e9 et le CNRS, ce projet innovant, annonc\u00e9 lors du salon Vivatech, vise \u00e0 exploiter le potentiel de l\u2019IA g\u00e9n\u00e9rative pour renforcer les processus d\u00e9mocratiques, dans un monde confront\u00e9 \u00e0 une crise de confiance institutionnelle sans pr\u00e9c\u00e9dent et \u00e0 une guerre informationnelle croissante.<\/strong><\/p>\n\n\n\n

Entretien avec Fran\u00e7ois Yvon.<\/strong><\/p>\n\n\n\n

Expliquez-nous ce qu\u2019est le projet \u00ab\u00a0Communs D\u00e9mocratiques\u00a0\u00bb, ses objectifs, ses enjeux.<\/strong><\/p>\n\n\n\n

Fran\u00e7ois Yvon :<\/strong> Le projet \u00ab\u00a0Communs D\u00e9mocratiques\u00a0\u00bb est n\u00e9 de la n\u00e9cessit\u00e9 de renforcer la d\u00e9mocratie \u00e0 l’\u00e8re num\u00e9rique, particuli\u00e8rement face aux d\u00e9fis pos\u00e9s par l’information et la d\u00e9sinformation en ligne. Il s’agit d’une initiative de recherche multidisciplinaire visant \u00e0 d\u00e9velopper des solutions d’IA g\u00e9n\u00e9rative open-source dans le contexte des d\u00e9bats participatifs en ligne.<\/p>\n\n\n\n

La plateforme Make.org, qui anime ce type de d\u00e9bats, a souhait\u00e9 r\u00e9fl\u00e9chir, avec Science Po, le CNRS et Sorbonne Universit\u00e9, aux diverses utilisations de l’IA dans le cadre d\u2019interventions qui doivent \u00eatre effectu\u00e9es de mani\u00e8re semi-automatique en raison de l\u2019ampleur des contributions et des participants : la traduction de contributions \u00e0 des d\u00e9bats multilingues, la cr\u00e9ation de r\u00e9sum\u00e9s ou encore la mod\u00e9ration pour d\u00e9tecter les contenus inappropri\u00e9s.<\/p>\n\n\n\n

Quels sont les enjeux li\u00e9s \u00e0 l’utilisation de l’IA dans ces d\u00e9bats ?<\/strong><\/p>\n\n\n\n

F. Y. :<\/strong> La question est de savoir si les outils d’IA peuvent biaiser la participation, par exemple en traduisant ou r\u00e9sumant incorrectement des contributions. Il est crucial de d\u00e9finir ce que l’on attend de ces syst\u00e8mes et d’identifier, mesurer et corriger les biais. Doivent-ils reproduire toutes les opinions \u00e0 \u00e9galit\u00e9 ou en fonction de leur importance ? Quelles r\u00e8gles de mod\u00e9ration doivent-ils suivre ? L’IA doit-elle \u00eatre rapporter seulement le sens d\u2019une proposition ou \u00e9galement l’\u00e9motion et l’engagement de l’utilisateur ? etc.<\/p>\n\n\n\n

Ce sujet n’est pas nouveau. Les d\u00e9bats et interventions sur les r\u00e9seaux sociaux sont r\u00e9gul\u00e9s par des algorithmes. Et depuis 20 ans, la recherche essaie de trouver la meilleure mani\u00e8re d\u2019utiliser des traitements automatiques tout en garantissant qu’ils ne nuisent pas \u00e0 la d\u00e9mocratie.<\/p>\n\n\n\n

En quoi est-il important d\u2019avoir une approche multidisciplinaire pour \u00e9valuer et contrer les biais potentiels des mod\u00e8les de langage ?<\/strong><\/p>\n\n\n\n

F. Y. :<\/strong> Le programme \u00ab\u00a0Communs D\u00e9mocratiques\u00a0\u00bb va r\u00e9unir plus de 50 chercheurs et ing\u00e9nieurs. Cette d\u00e9marche multidisciplinaire in\u00e9dite associe une expertise avanc\u00e9e en data science \u00e0 une connaissance pointue des sciences humaines et sociales. Les laboratoires Cevipof <\/a>et Medialab<\/a> de Sciences Po vont contribuer \u00e0 d\u00e9finir ce que serait un comportement \u00e9quitable et acceptable de l’IA en tant que mod\u00e9rateur ou rapporteur de d\u00e9bats, tandis qu\u2019\u00e0 Sorbonne Universit\u00e9 nous allons nous concentrer sur la compr\u00e9hension et l’am\u00e9lioration des algorithmes utilis\u00e9s par les grands mod\u00e8les de langues. Nous travaillerons sur 3 grands usages des algorithmes : la mod\u00e9ration et la synth\u00e8se des d\u00e9bats ; l’assistance aux utilisateurs pour formuler et exprimer leurs opinions de mani\u00e8re appropri\u00e9e ; la traduction multilingue.<\/p>\n\n\n\n

Port\u00e9 par la plateforme Make.org, le programme est \u00e9galement adoss\u00e9 \u00e0 cinq partenaires de r\u00e9f\u00e9rence de l\u2019IA \u00e9thique : Hugging Face, Aspen Institute, Mozilla.ai, Project Liberty Institute et le Genci. Les partenaires industriels nous permettrons de tester nos mod\u00e8les dans des environnements r\u00e9els et de mener des exp\u00e9riences de sciences sociales \u00e0 grande \u00e9chelle, avec des participants recrut\u00e9s sur la plateforme pr\u00eats \u00e0 participer \u00e0 des tests. Cette collaboration est essentielle pour comparer l’efficacit\u00e9 des mod\u00e8les et assurer qu’ils r\u00e9pondent aux besoins des utilisateurs.<\/p>\n\n\n\n

Pourquoi d\u00e9velopper des solutions open source ?<\/strong><\/p>\n\n\n\n

F. Y. : <\/strong>Soutenu par le programme Communs Num\u00e9riques de France 2030 et Bpifrance, le projet est financ\u00e9 pour une dur\u00e9e de deux ans et pose la question de ce que l\u2019on met au service de la communaut\u00e9. Trois th\u00e8ses seront financ\u00e9es sur les sujets de la mod\u00e9ration, de l’assistance \u00e0 l’expression des opinions, et de la traduction multilingue. Outre les mod\u00e8les qui seront disponibles en open source, ce sont surtout les principes qui les sous-tendent qu\u2019il est important de partager, de diffuser et de faire reconna\u00eetre pour garantir une utilisation \u00e9thique et transparente des technologies d\u00e9velopp\u00e9es.<\/p>\n\n\n\n

Dans quels autres cadres les r\u00e9sultats de ce projet pourront-ils \u00eatre r\u00e9utilis\u00e9s ?<\/strong><\/p>\n\n\n\n

F. Y. :<\/strong>\u00a0Les r\u00e9sultats de ce projet peuvent \u00eatre appliqu\u00e9s dans de nombreux autres cadres. Par exemple, ils pourraient \u00eatre utilis\u00e9s pour faciliter les interactions entre les citoyens et leurs repr\u00e9sentants politiques, comme dans des consultations publiques ou des d\u00e9bats sur des projets de loi. Les technologies d\u00e9velopp\u00e9es peuvent \u00e9galement \u00eatre adapt\u00e9es pour d’autres plateformes de participation citoyenne, permettant aux internautes de poser des questions non seulement \u00e0 des personnes mais aussi \u00e0 des corpus juridiques ou l\u00e9gislatifs. De plus, les principes et mod\u00e8les \u00e9labor\u00e9s pourront servir de base pour d’autres initiatives visant \u00e0 r\u00e9guler l’IA dans divers contextes sociaux et politiques, garantissant ainsi leur \u00e9thique et leur transparence.<\/p>\n\n\n\n

\n
Lien vers l’article sur le site de Sorbonne Universit\u00e9<\/strong><\/a><\/div>\n<\/div>\n\n\n\n
\n\n\n\n

Contact scientifique \u00e0 l\u2019ISIR\u00a0<\/strong>: Fran\u00e7ois Yvon<\/a>, directeur de recherche CNRS<\/p>\n\n\n\n

\n\n\n\n

Publi\u00e9 le 5 juin 2024<\/em><\/p>\n","protected":false},"featured_media":11042,"template":"","isir_news_categories":[240],"class_list":["post-11041","isir_news","type-isir_news","status-publish","has-post-thumbnail","hentry","isir_news_categories-recherche"],"_links":{"self":[{"href":"https:\/\/www.isir.upmc.fr\/wp-json\/wp\/v2\/isir_news\/11041","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.isir.upmc.fr\/wp-json\/wp\/v2\/isir_news"}],"about":[{"href":"https:\/\/www.isir.upmc.fr\/wp-json\/wp\/v2\/types\/isir_news"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.isir.upmc.fr\/wp-json\/wp\/v2\/media\/11042"}],"wp:attachment":[{"href":"https:\/\/www.isir.upmc.fr\/wp-json\/wp\/v2\/media?parent=11041"}],"wp:term":[{"taxonomy":"isir_news_categories","embeddable":true,"href":"https:\/\/www.isir.upmc.fr\/wp-json\/wp\/v2\/isir_news_categories?post=11041"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}