Avec l’IA générative, les chatbots et robots de compagnie ont gagné en capacité à faire illusion et de nombreuses applications sont devenues populaires. Mais nous connaissons peu le degré d’attachement à ces robots dits « sociaux ». Le comité éthique du CNRS, alerté par une chercheuse en robotique, s’est saisi du sujet et appelle « spécifiquement à la vigilance les chercheurs » sur l’anthropomorphisation et sur les aspects psychiques et cognitifs de leur utilisation.

Si l’IA générative n’est pas une intelligence artificielle générale, on peut observer une tendance à les utiliser pour créer des robots de compagnie. Le comité d’éthique du CNRS (COMETS) publie un avis (PDF) sur « Le phénomène d’attachement aux robots dits « sociaux » » et insiste pour que la recherche scientifique soit vigilante sur le sujet.

(...) Plein de robots « sociaux » déjà sur le marché

Ce n’était qu’une démonstration, mais d’autres existaient déjà avant même l’avènement des IA génératives. Replika vend son application comme une IA amie qui peut jouer des rôles sociaux de l’âme sœur à partenaire de jeux érotique. L’entreprise japonaise Gatebox avait déjà sorti Azuma Hikari en 2016, pour servir de « meilleur compagnon ».
Sim Sensei Kiosk, développé par des chercheurs dès 2014, prétend lire leurs émotions et aider à lutter contre la dépression. La startup comme Affectiva affirme aussi pouvoir analyser en temps réel les signaux extérieurs renvoyés par les humains pour déduire leurs émotions. Au Japon, se sont développés des « deadbots », robots conversationnels simulant la discussion avec des proches décédés. On plonge donc en plein dans l’épisode Bientôt de retour de Black Mirror, qui développe justement beaucoup le phénomène d’attachement. Et même le chatbot Claude a été présenté par Anthropic comme « un collègue sympathique et enthousiaste ou un assistant personnel à qui l’on peut donner des instructions en langage naturel pour l’aider à accomplir de nombreuses tâches ». Dès lors, comme le faisait déjà la fiction de Spike Jones, on peut se poser des questions sur des phénomènes de substitution à la solitude, mais également de dépendance affective ou de manipulation psychologique via ses robots.

Une balance bénéfices / risques peu étudiée (...)

Le COMETS demande donc à ce que plus de recherches soient effectuées pour étudier pour « mieux comprendre les déterminants de cette relation et d’en prévenir les impacts néfastes ».
Un rôle à jouer pour la recherche publique
Le comité ajoute que « la recherche publique a, à cet égard, un rôle-clé à jouer ». Il constate qu’à ce jour, le développement de ces robots sociaux « repose sur une recherche-développement très largement menée par des entreprises privées ». Il nomme les géants du numérique comme Google, Microsoft et Amazon, mais aussi des startups comme Affectiva, Miko, UBTECH, Intuition Robotics, Embodied ou Digital Dream Labs. Mais il pointe aussi que les chercheurs des organismes publics français , comme le CNRS, l’INRIA, le CEA et diverses universités, développent des modèles expérimentaux dont « les entreprises peuvent ensuite se saisir des résultats de ces recherches académiques pour développer leurs produits ». Et le COMETS ajoute : « or ces recherches contribuent à l’anthropomorphisation des robots sociaux et au phénomène d’attachement dont se préoccupe le présent avis ».

Des études interdisciplinaires nécessaires (...)

Le Comité demande aussi que des études interdisciplinaires à propos de « l’incidence sur la cognition, le psychisme, le comportement des utilisateurs, le rapport de ces derniers à autrui et au monde, les conditions de la convivialité entre humains et robots sociaux et entre les humains accompagnés de robot » soient lancées. Le but est de « construire ainsi, en toute indépendance, un socle de savoirs nécessaires pour faire face aux enjeux liés à l’usage de ces outils et pour en anticiper les éventuels effets sociaux néfastes ».

Cinq recommandations pour la recherche publique

• développer des formations aux enjeux éthiques (dans les cursus scientifiques et techniques et pour les personnels de recherche concernés), se familiariser davantage avec la littérature internationale consacrée à ces questions et en débattre collectivement ;
• s’interroger sur les finalités de la recherche, des applications et des choix de conception, comme sur les avantages et les inconvénients à donner aux robots une forme ou un comportement humanoïde ou des capacités à capter et à simuler les émotions ;
• mener, dans des situations et contextes réalistes, des études scientifiques de long terme et à grande échelle sur : – les relations que les utilisateurs nouent avec « leurs » robots sociaux et sur les incidences en termes de cognition, de psychisme, d’attachement, d’autonomie d’actions et de décisions ; – les effets du déploiement les robots sociaux sur les relations entre humains ;
• renforcer à cet effet les recherches interdisciplinaires et indépendantes associant aux travaux en informatique, en robotique, en sciences du comportement, du traitement du langage, etc., des recherches en psychologie, neurosciences, linguistique, sociologie, droit, éthique, philosophie, anthropologie ;
• dans le cadre d’un observatoire, collecter à grande échelle et à long terme les données relatives à l’utilisation de robots sociaux, la manière dont les utilisateurs se les approprient, les impacts sur leurs états émotionnels et leurs décisions ; l’objectif est d’alimenter la recherche scientifique et, à plus long terme, d’éclairer les utilisateurs et les décideurs sur les conditions d’un développement et d’un usage libre et responsable de ces dispositifs.