{"id":9768,"date":"2023-10-03T15:05:04","date_gmt":"2023-10-03T13:05:04","guid":{"rendered":"https:\/\/www.isir.upmc.fr\/?post_type=isir_projects&p=9768"},"modified":"2025-06-03T11:44:54","modified_gmt":"2025-06-03T09:44:54","slug":"raisonnement-contrefactuel-et-evaluation-dans-une-architecture-de-la-conscience","status":"publish","type":"isir_projects","link":"https:\/\/www.isir.upmc.fr\/projets\/raisonnement-contrefactuel-et-evaluation-dans-une-architecture-de-la-conscience\/","title":{"rendered":"CAVAA"},"content":{"rendered":"\n

Projet CAVAA – Counterfactual Assessment and Valuation for Awareness Architecture<\/h3>\n\n\n\n

Le projet CAVAA propose que la conscience serve \u00e0 la survie dans un monde r\u00e9gi par des \u00e9tats cach\u00e9s, pour faire face \u00e0 \u00ab\u00a0l’invisible\u00a0\u00bb, des environnements inexplor\u00e9s aux interactions sociales qui d\u00e9pendent des \u00e9tats internes des agents et des normes morales. La conscience refl\u00e8te un monde virtuel, un hybride de preuves perceptives, d’\u00e9tats de m\u00e9moire et \u00ab\u00a0d’inobservables\u00a0\u00bb d\u00e9duits, \u00e9tendus dans l’espace et le temps.<\/p>\n\n\n\n

Le projet CAVAA mettra en \u0153uvre une th\u00e9orie de la conscience instanci\u00e9e sous la forme d’une architecture informatique int\u00e9gr\u00e9e et de ses composants, de fa\u00e7on \u00e0 contribuer \u00e0 l\u2019explication de la conscience dans les syst\u00e8mes biologiques et \u00e0 sa conception dans les syst\u00e8mes technologiques. Le projet concevra les composants informatiques sous-jacents \u00e0 la perception, la m\u00e9moire, la virtualisation, la simulation mentale, et \u00e0 leur int\u00e9gration. Puis cette architecture et ses composants seront test\u00e9s et valid\u00e9s de mani\u00e8re incarn\u00e9e, dans des robots et des agents artificiels, dans une s\u00e9rie de sc\u00e9narios impliquant l’interaction entre plusieurs humains et agents artificiels, en utilisant des mesures quantitatives standards et des corr\u00e9lats comportementaux de la prise de conscience. Les sc\u00e9narios porteront sur la navigation et recherche de ressources par les robots, la robotique sociale, les jeux informatiques et les arbres de d\u00e9cision g\u00e9n\u00e9r\u00e9s par l’humain pour un coach de sant\u00e9. Les tests se concentreront sur la r\u00e9solution de diff\u00e9rents compromis, par exemple entre exploration et exploitation, ou entre efficacit\u00e9 de la recherche et robustesse, et \u00e9valueront l’acceptabilit\u00e9 d\u2019une telle technologie consciente par les utilisateurs humains.<\/p>\n\n\n\n

L’ing\u00e9nierie de la conscience du projet CAVAA s’accompagne d’un cadre \u00e9thique pour les utilisateurs-trices humains et les artefacts conscients dans le spectre plus large de l’IA digne de confiance, en tenant compte des ontologies partag\u00e9es, de la compl\u00e9mentarit\u00e9 des intentions et de la correspondance des comportements, de l’empathie, de la pertinence des r\u00e9sultats, de la r\u00e9ciprocit\u00e9, des contrefactuels et des projections vers de nouveaux sc\u00e9narios futurs, ainsi que de la pr\u00e9vision de l’impact des choix. CAVAA offrira une meilleure exp\u00e9rience \u00e0 l’utilisateur-trice gr\u00e2ce \u00e0 sa capacit\u00e9 d’explication, d’adaptation et de lisibilit\u00e9. Le cadre int\u00e9gr\u00e9 de CAVAA red\u00e9finit la fa\u00e7on dont nous envisageons la relation entre les humains, les autres esp\u00e8ces et les technologies intelligentes, car il rend visible l’invisible.<\/p>\n\n\n\n

Le contexte<\/h3>\n\n\n\n

Selon Thomas Nagel, les agents conscients ont conscience de ce que c’est que d’\u00eatre cet agent. Cette d\u00e9finition \u00e0 la premi\u00e8re personne exclut une recherche scientifique \u00e0 la troisi\u00e8me personne, ce qui conduit \u00e0 ce que le philosophe David Charlmers appelle \u00ab\u00a0le probl\u00e8me difficile de la conscience\u00a0\u00bb, donc \u00e0 une lacune explicative avec sa solution pragmatique consistant \u00e0 distinguer la conscience ph\u00e9nom\u00e9nale de la conscience d’acc\u00e8s. La conscience peut en outre \u00eatre caract\u00e9ris\u00e9e en termes de niveaux, du coma \u00e0 l’\u00e9veil, et de contenu ou de quale concernant la distinction entre le monde ext\u00e9rieur et le soi et le niveau d’abstraction. Face \u00e0 ces d\u00e9fis d\u00e9finitionnels, les th\u00e9ories de la conscience ont mis l’accent sur diff\u00e9rents aspects non exclusifs tels que l’ancrage dans le soi et les contingences sensori-motrices, la complexit\u00e9, l’acc\u00e8s \u00e0 l’information, la pr\u00e9diction, l’attention ou les m\u00e9ta-repr\u00e9sentations. Cependant, aucune de ces th\u00e9ories ne donne d’hypoth\u00e8se sur ce que pourrait \u00eatre la fonction de la conscience, sans parler de son r\u00f4le dans les technologies futures et les syst\u00e8mes d’intelligence artificielle. Les suggestions vont plut\u00f4t du panpsychisme \u00e0 l’\u00e9piph\u00e9nom\u00e9nalisme, ou \u00e0 la r\u00e9alisation de fonctions cognitives sp\u00e9cifiques. Il n’est pas surprenant que la r\u00e9alisation de machines conscientes soit consid\u00e9r\u00e9e comme peu plausible.<\/p>\n\n\n\n

Le projet CAVAA se d\u00e9marque de cette position. CAVAA propose que la conscience ait une fonction sp\u00e9cifique dans le contr\u00f4le du comportement adaptatif qui est apparu pendant l’explosion cambrienne : la capacit\u00e9 de survivre dans un monde r\u00e9gi par des \u00e9tats cach\u00e9s, en particulier ceux qui concernent d’autres agents. En effet, CAVAA propose que la conscience permette aux agents de se d\u00e9coupler des \u00e9tats sensoriels imm\u00e9diats et de g\u00e9rer \u00ab\u00a0l’invisible\u00a0\u00bb, allant des politiques comportementales dans des environnements inexplor\u00e9s et des aspects non observables des t\u00e2ches, aux complexit\u00e9s de l’interaction sociale qui d\u00e9pendent des \u00e9tats internes des agents (par exemple, les intentions, les connaissances et les \u00e9motions), et aux normes morales qui guident l’action de l’interaction collective. La conscience refl\u00e8te donc un monde virtuel qui est un hybride de preuves perceptives, d’\u00e9tats de m\u00e9moire et \u00ab\u00a0d’inobservables\u00a0\u00bb d\u00e9duits, \u00e9tendu dans l’espace et le temps et qui repose sur cinq processus fondamentaux : la capacit\u00e9 de virtualiser des espaces de t\u00e2ches, de fusionner des \u00e9l\u00e9ments \u00ab\u00a0r\u00e9els\u00a0\u00bb et virtuels dans ces mod\u00e8les internes, d’ex\u00e9cuter des simulations parall\u00e8les orient\u00e9es vers l’avenir d’\u00e9tats possibles du soi-monde, de les fusionner en une seule sc\u00e8ne consciente qui d\u00e9finit le contenu de la conscience, et d’utiliser la conscience pour biaiser l’\u00e9valuation et la consolidation de la m\u00e9moire.<\/p>\n\n\n\n

Pour atteindre cet objectif, le consortium CAVAA s’appuiera sur notre compr\u00e9hension croissante de des bases biologiques de la conscience et de son r\u00f4le dans la construction de mod\u00e8les internes de mondes virtualis\u00e9s dans lesquels se d\u00e9roule la vie mentale.<\/p>\n\n\n

\n
\"\"<\/figure>\n<\/div>\n\n\n

Les objectifs<\/h3>\n\n\n\n

Le projet se concentre sur la mise en place du plan de gestion des donn\u00e9es, l’organisation des flux de collecte de donn\u00e9es, la mise en place du cadre \u00e9thique et juridique, la d\u00e9finition des exigences et des sp\u00e9cifications de la technologie, la r\u00e9alisation d’une analyse des brevets et du march\u00e9 et la mise en place des bases de l’architecture CAVA et de ses composants, des sc\u00e9narios de validation et des m\u00e9triques, et des sp\u00e9cifications des aspects \u00e9thiques et juridiques. Les principaux objectifs du projet sont : <\/p>\n\n\n\n

– d\u00e9velopper cette activit\u00e9 et acc\u00e9l\u00e9rer l’interfa\u00e7age de l’architecture avec les syst\u00e8mes externes et l’int\u00e9gration globale ;<\/p>\n\n\n\n

– d\u00e9ployer des sc\u00e9narios et valider l’obtention des premiers r\u00e9sultats, sous r\u00e9serve d’une analyse plus approfondie et de la mise \u00e0 jour des exigences. Ces r\u00e9sultats permettront \u00e9galement d’identifier les limites \u00e9ventuelles de l’architecture et de ses composants ;<\/p>\n\n\n\n

– mettre \u00e0 jour de l’architecture pour en faire une solution cl\u00e9 en main et se concentrer sur l’avancement des t\u00e2ches de r\u00e9f\u00e9rence les plus difficiles. L’architecture et son code sous-jacent seront pr\u00e9sent\u00e9s et document\u00e9s en vue d’une diffusion publique dans l’attente des objectifs des petites et moyennes entreprises en vue d’une commercialisation ult\u00e9rieure.<\/p>\n\n\n

\n
\"\"<\/figure>\n<\/div>\n\n\n

Les r\u00e9sultats<\/h3>\n\n\n\n

Le projet CAVAA d\u00e9veloppera une architecture de contr\u00f4le cognitif au-del\u00e0 de l’\u00e9tat de l’art pour des syst\u00e8mes synth\u00e9tiques avanc\u00e9s valid\u00e9s dans des t\u00e2ches d’interaction spatiale et sociale. La r\u00e9alisation de l’architecture CAVAA fait progresser l’\u00e9tat de l’art en mati\u00e8re d’intelligence artificielle, d’interaction homme-robot et d’informatique bas\u00e9e sur les neurosciences en fournissant une architecture int\u00e9gr\u00e9e et en ayant un impact sur plusieurs domaines de recherche : des neurosciences th\u00e9oriques et computationnelles et des sciences cognitives \u00e0 l’ing\u00e9nierie, la philosophie et les sciences sociales. L’approche \u00e0 cinq niveaux de CAVAA comprend l’architecture cognitive, les syst\u00e8mes informatiques, la conscience de la machine, l’incarnation et le comportement conscient.<\/p>\n\n\n

\n
\"\"<\/figure>\n<\/div>\n\n\n

Partenaires et collaboration <\/h3>\n\n\n\n

Le projet est financ\u00e9 par le Conseil Europ\u00e9en de l\u2019Innovation (EIC) de l\u2019Union Europ\u00e9enne, sous la r\u00e9f\u00e9rence : EIC 101071178. Il s\u2019agit d\u2019un projet europ\u00e9en collaboratif incluant les partenaires suivants :<\/p>\n\n\n\n

– Radboud University, Pays-Bas ;<\/p>\n\n\n\n

– Centre for Research & Technology, Hellas (CERTH), Gr\u00e8ce ;<\/p>\n\n\n\n

– University of Technology Chemnitz, Allemagne ;<\/p>\n\n\n\n

– Sorbonne University, France ;<\/p>\n\n\n\n

– Eodyne, Espagne ;<\/p>\n\n\n\n

– Robotnik, Espagne ;<\/p>\n\n\n\n

– Uppsala University, Su\u00e8de ;<\/p>\n\n\n\n

– Tp21, Allemagne ;<\/p>\n\n\n\n

– University of Oxford, Royaume-Uni ;<\/p>\n\n\n\n

– University of Sheffield, Royaume-Uni.<\/p>\n","protected":false},"featured_media":9771,"template":"","isir_project_types":[236],"isir_teams":[265],"class_list":["post-9768","isir_projects","type-isir_projects","status-publish","has-post-thumbnail","hentry","isir_project_types-all-projects-fr","isir_teams-acide"],"_links":{"self":[{"href":"https:\/\/www.isir.upmc.fr\/wp-json\/wp\/v2\/isir_projects\/9768","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.isir.upmc.fr\/wp-json\/wp\/v2\/isir_projects"}],"about":[{"href":"https:\/\/www.isir.upmc.fr\/wp-json\/wp\/v2\/types\/isir_projects"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.isir.upmc.fr\/wp-json\/wp\/v2\/media\/9771"}],"wp:attachment":[{"href":"https:\/\/www.isir.upmc.fr\/wp-json\/wp\/v2\/media?parent=9768"}],"wp:term":[{"taxonomy":"isir_project_types","embeddable":true,"href":"https:\/\/www.isir.upmc.fr\/wp-json\/wp\/v2\/isir_project_types?post=9768"},{"taxonomy":"isir_teams","embeddable":true,"href":"https:\/\/www.isir.upmc.fr\/wp-json\/wp\/v2\/isir_teams?post=9768"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}