{"id":9078,"date":"2023-03-30T14:02:11","date_gmt":"2023-03-30T12:02:11","guid":{"rendered":"https:\/\/www.isir.upmc.fr\/?post_type=isir_news&#038;p=9078"},"modified":"2023-03-30T14:03:07","modified_gmt":"2023-03-30T12:03:07","slug":"neural-language-models-for-faithful-data-to-text-generation-and-proactive-conversational-search-soutenance-hdr-de-laure-soulier","status":"publish","type":"isir_news","link":"https:\/\/www.isir.upmc.fr\/actualites\/neural-language-models-for-faithful-data-to-text-generation-and-proactive-conversational-search-soutenance-hdr-de-laure-soulier\/","title":{"rendered":"NEURAL LANGUAGE MODELS FOR FAITHFUL DATA-TO-TEXT GENERATION AND PROACTIVE CONVERSATIONAL SEARCH : SOUTENANCE HDR DE LAURE SOULIER"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\"><strong>Laure Soulier<\/strong>, chercheuse \u00e0 l\u2019ISIR et ma\u00eetresse de conf\u00e9rences \u00e0 Sorbonne Universit\u00e9, a soutenu son Habilitation \u00e0 Diriger des Recherches (HDR) le lundi 20 mars 2023 \u00e0 14h, sur le campus Pierre et Marie Curie de Sorbonne Universit\u00e9.&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Titre des travaux&nbsp;: \u201c<strong>Neural language models for faithful data-to-text generation and proactive conversational search<\/strong>\u201d.&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La constitution du jury \u00e9tait la suivante&nbsp;:&nbsp;<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Laurent Besacier, Professeur UGA &#8211; Principal Scientist -NaverLabs Europe, France,&nbsp;<em>Examinateur<\/em>,<\/li>\n\n\n\n<li>Eric Gaussier, Professeur &#8211; Universit\u00e9 Grenoble Alpes, France,&nbsp;<em>Rapporteur<\/em>,<\/li>\n\n\n\n<li>Fabio Crestani, Professeur &#8211; Universit\u00e1 della Svizzera Italiana, Suisse),&nbsp;<em>Examinateur<\/em>,<\/li>\n\n\n\n<li>Evangelos Kanoulas, Professeur &#8211; University of Amsterdam, Pays-Bas,&nbsp;<em>Rapporteur<\/em>,<\/li>\n\n\n\n<li>Marie-Francine Moens, Professeure &#8211; KU Leuven, Belgique,&nbsp;<em>Rapportrice<\/em>,&nbsp;<\/li>\n\n\n\n<li>Catherine Pelachaud, Directrice de recherche &#8211; Sorbonne Universit\u00e9, France,&nbsp;<em>Examinatrice<\/em>.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">R\u00e9sum\u00e9&nbsp;:&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Les grands mod\u00e8les de langue sont d\u00e9sormais pr\u00e9dominants dans la plupart des travaux de recherche en traitement du langage naturel, en recherche d&rsquo;information ou encore en vision par ordinateur. Ces mod\u00e8les ont d\u00e9montr\u00e9 de grandes capacit\u00e9s \u00e0 capturer la s\u00e9mantique des \u00e9l\u00e9ments et \u00e0 g\u00e9n\u00e9rer des textes ou des images plausibles. Cependant, leur entra\u00eenement guid\u00e9 par des probabilit\u00e9s et la d\u00e9tection de co-occurrences nuit parfois \u00e0 la pertinence de leurs r\u00e9sultats. Notre ambition est de discuter et de contribuer \u00e0 trois enjeux majeurs sous-jacents aux mod\u00e8les de langue neuronaux dans le cadre d&rsquo;une t\u00e2che de g\u00e9n\u00e9ration de descriptions \u00e0 partir de donn\u00e9es structur\u00e9es et de recherche d&rsquo;information conversationnelle.&nbsp;<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Le premier d\u00e9fi se concentre sur la fid\u00e9lit\u00e9 et la pertinence de la g\u00e9n\u00e9ration de texte, discutant la mod\u00e9lisation des diff\u00e9rentes parties des architectures des mod\u00e8les de langue (i.e., l&rsquo;encodeur et le d\u00e9codeur).<\/li>\n\n\n\n<li>La deuxi\u00e8me question de recherche porte sur la contextualisation des mod\u00e8les de langue, et notamment sur la contextualisation des besoins en information pour la recherche conversationnelle.<\/li>\n\n\n\n<li>Enfin, nous \u00e9tudions la capacit\u00e9 des mod\u00e8les de langue \u00e0 s&rsquo;adapter continuellement aux nouvelles connaissances lorsqu&rsquo;ils sont utilis\u00e9s pour effectuer des t\u00e2ches d&rsquo;ordonnancement de documents.&nbsp;<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Nous concluons par une discussion sur les perspectives prometteuses de ces questions de recherche, et ouvrons \u00e9galement de nouvelles directions pour l&rsquo;apprentissage automatique et la robotique.&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La vid\u00e9o de la pr\u00e9sentation de Laure Soulier est <a href=\"https:\/\/www.youtube.com\/watch?v=YOtdXlPFqcM&amp;t=1s\" data-type=\"URL\" data-id=\"https:\/\/www.youtube.com\/watch?v=YOtdXlPFqcM&amp;t=1s\" target=\"_blank\" rel=\"noreferrer noopener\">disponible en ligne<\/a>. <\/p>\n\n\n\n<div class=\"c-collapsibles\">\n    \n        <div class=\"toggle-section\">\n            <h2 class=\"c-collapsible__title\">\n                <button class=\"js-collapsible-button\">\n                    <svg aria-hidden=\"true\" focusable=\"false\" viewBox=\"0 0 10 10\">\n                        <rect class=\"icon-plus-v\" height=\"8\" width=\"2\" y=\"1\" x=\"4\" \/>\n                        <rect class=\"icon-plus-h\" height=\"2\" width=\"8\" y=\"4\" x=\"1\" \/>\n                    <\/svg>\n                    En savoir plus sur ses travaux                <\/button>\n            <\/h2>\n            <div class=\"c-collapsible__content o-content\">\n                <p style=\"font-weight: 400;\">Les travaux de recherche de Laure Soulier portent sur le d\u00e9veloppement de mod\u00e8les bas\u00e9s sur l\u2019apprentissage profond pour la recherche d\u2019information et le traitement automatique de la langue.\u00a0 Ces domaines reposent sur les mod\u00e8les de langue qui permettent de capturer la s\u00e9mantique des mots et des phrases. Les mod\u00e8les r\u00e9cents bas\u00e9s sur l\u2019architecture Transformer, \u00e9valu\u00e9s en premier lieu sur des t\u00e2ches de traduction, sont d\u00e9sormais abord\u00e9s pour r\u00e9aliser des t\u00e2ches de plus en plus complexes, telles que le dialogue, le r\u00e9sum\u00e9 de textes ou la compl\u00e9tion de codes.<\/p>\n<p style=\"font-weight: 400;\">L\u2019objectif des travaux de recherche de Laure Soulier r\u00e9side dans l\u2019am\u00e9lioration de ces mod\u00e8les de langue dans de nombreux domaines d\u2019applications\u00a0:<\/p>\n<p style=\"font-weight: 400;\">&#8211; <strong>La g\u00e9n\u00e9ration de descriptions textuelles \u00e0 partir de donn\u00e9es structur\u00e9es<\/strong> o\u00f9 elle a adress\u00e9 dans un premier temps la probl\u00e9matique de g\u00e9n\u00e9ration factuelles prenant en compte des structures complexes et limitant le ph\u00e9nom\u00e8ne d\u2019hallucination. Elle se concentre d\u00e9sormais sur les verrous de mod\u00e8les de langue dot\u00e9s de raisonnement sur les donn\u00e9es num\u00e9riques et de transf\u00e9rabilit\u00e9 de ces mod\u00e8les \u00e0 de nouveaux domaines. Elle participe actuellement au projet ANR PRCE ACDC pour aborder ces nouveaux aspects.<\/p>\n<p style=\"font-weight: 400;\">&#8211; <strong>La recherche d\u2019information conversationnelle<\/strong> dont l\u2019objectif est d\u2019augmenter les moteurs de recherche avec des interactions en langage naturel via des syst\u00e8mes de dialogue. Ces travaux sont r\u00e9alis\u00e9s dans le contexte du projet ANR JCJC SESAMS dont elle est responsable. Ses int\u00e9r\u00eats se focalisent sur la prise en compte et la g\u00e9n\u00e9ration de conversations pour une t\u00e2che de recherche d\u2019information. Elle propose des mod\u00e8les d\u2019ordonnancement de documents contextualis\u00e9s ou des approches de clarification de questions pour renforcer l\u2019aspect proactif des interactions. Elle aborde \u00e9galement la g\u00e9n\u00e9ration de r\u00e9ponses en langage naturel pour r\u00e9pondre \u00e0 un besoin d\u2019information complexe sur la base de documents pertinents identifi\u00e9s par un syst\u00e8me de recherche d\u2019information.<\/p>\n<p style=\"font-weight: 400;\">&#8211; <strong>L\u2019apprentissage continu dans le contexte de la recherche d\u2019information<\/strong> o\u00f9 elle analyse le comportement des mod\u00e8les neuronaux et leur capacit\u00e9 \u00e0 accumuler de nouvelles connaissances au fur et \u00e0 mesure de l\u2019apprentissage. Elle a propos\u00e9 diff\u00e9rents sc\u00e9narios incluant des flux de t\u00e2ches restreints \u00e0 2-3 jeux de donn\u00e9es ou des flux longs incluant jusqu\u2019\u00e0 74 t\u00e2ches successives. Des sc\u00e9narios contr\u00f4l\u00e9s li\u00e9s \u00e0 des hypoth\u00e8ses de recherche d\u2019information ont \u00e9galement \u00e9t\u00e9 abord\u00e9s.<\/p>\n<p style=\"font-weight: 400;\">Elle d\u00e9bute tr\u00e8s r\u00e9cemment des travaux dans le <strong>domaine de la robotique<\/strong> dans le cadre du projet Europ\u00e9en HORIZON PILLAR. L\u2019objet de ses recherches porteront sur la g\u00e9n\u00e9ration d\u2019instructions en langage naturel pour les robots avec pour objectif d\u2019hybrider les mod\u00e8les de langue avec l\u2019apprentissage par renforcement.<\/p>\n            <\/div>\n        <\/div>\n\n    <\/div>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Contact scientifique<\/strong> : <strong><a href=\"https:\/\/www.isir.upmc.fr\/personnel\/soulier\/\" data-type=\"URL\" data-id=\"https:\/\/www.isir.upmc.fr\/personnel\/soulier\/\" target=\"_blank\" rel=\"noreferrer noopener\">Laure Soulier<\/a><\/strong>, ma\u00eetresse de conf\u00e9rence<\/p>\n","protected":false},"featured_media":9099,"template":"","isir_news_categories":[260],"class_list":["post-9078","isir_news","type-isir_news","status-publish","has-post-thumbnail","hentry","isir_news_categories-soutenance"],"_links":{"self":[{"href":"https:\/\/www.isir.upmc.fr\/wp-json\/wp\/v2\/isir_news\/9078","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.isir.upmc.fr\/wp-json\/wp\/v2\/isir_news"}],"about":[{"href":"https:\/\/www.isir.upmc.fr\/wp-json\/wp\/v2\/types\/isir_news"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.isir.upmc.fr\/wp-json\/wp\/v2\/media\/9099"}],"wp:attachment":[{"href":"https:\/\/www.isir.upmc.fr\/wp-json\/wp\/v2\/media?parent=9078"}],"wp:term":[{"taxonomy":"isir_news_categories","embeddable":true,"href":"https:\/\/www.isir.upmc.fr\/wp-json\/wp\/v2\/isir_news_categories?post=9078"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}