D’un coté les robots sont « émotionnels”, au sens où ils provoquent des émotions chez les humains. De l’autre, les robots pourraient être eux-mêmes “émus”, au sens où ils pourraient, un jour, manifester – simuler – certaines joies et souffrances, à travers un corps artificiel.

Les interactions entre les humains et les robots sont à la fois complexes et porteuses de grands enjeux pour le monde digital de demain. Laurence Devillers, professeur et chercheur en intelligence artificielle, membre du Comité national pilote d’éthique du numérique,  décrypte cette complexité au fil de son ouvrage : Les robots « émotionnels » Santé surveillance, sexualité… : et l’éthique dans tout ça? L’auteur évoque les émotions au sens large, c’est à dire les états affectifs, les affects. Quand aux robots en question, ils sont le plus souvent des agents conversationnels, chatbot ou assistant vocal : «  un agent vocal conversationnel (chatbot) est un système de traitement du langage naturel disposant au moins des composants suivants ; analyse vocale et reconnaissance automatique de la parole, voire analyse d’image, analyse sémantique et gestion des stratégies du dialogue, génération de réponse et synthèse vocale…. parmi les modules de perception, le robot peut être muni de reconnaissance vocale, faciale et tactile voire émotionnelle ». Les robots provoquent, analysent et transmettent des émotions. Ils  peuvent aussi avoir une présence physique, ce qui induit des modifications supplémentaires dans le comportement des usagers humains. 

La fabrication par les humains de robots sensibles, c’est à dire capables de  ressentir des émotions, et qui créeraient en retour une « empathie réactive »,  constitue un tout nouveau domaine de recherche. On parle alors de « passibilité” de la machine : «  la prochaine génération de robot humanoïde pourrait être construite pourvue d’un “corps sensible », c’est à dire avec un grand nombre de capteurs sous la « peau » en silicone du robot afin qu’y naisse une forme d’intentions propres et de conscience artificielle ». Dans cette mise au point, le phénomène de l’homéostasie constitue un enjeu de taille. L’homéostasie est « un phénomène par lequel un facteur clé est maintenu autour d’une valeur bénéfique pour le système considéré, grâce à un processus de régulation ». De nombreux chercheurs, signale l’auteur, travaillent à mettre au point une homéostasie du robot car « pour simuler les capacités de l’humain, cette régulation doit être réalisée autour du corps et des émotions” ».  Les robots deviendront-ils émus, émotifs ? Non bien sûr, car ces émotions des robots ne sont que simulées, le robot ne « ressent » pas.

L’auteure met les points sur les  “i”  quant à la concurrence que pourrait développer l’intelligence artificielle vis à vis de l’intelligence humaine : «  les systèmes actuels n’ont aucun sens commun, pas d’imagination, pas d’émotions et ne comprennent pas les données qu’ils ingurgitent. Ils n’ont pour l’instant que très peu d’autonomie, de créativité et d’adaptation, les trois piliers de l’intelligence humaine. Sera t-il possible quand même d’aller plus loin, dans la reproduction des mécanismes de la pensée humaine par l’intelligence artificielle, du point de vue du sens commun, de l’abstraction et de la créativité notamment ? L’auteur rappelle, très justement, que ni les mécanismes de la cellule vivante ni les fondements de la conscience humaine ne sont connus. Comment dès lors envisager une conscience qui émergerait de la machine ? L’occasion est belle pour l’auteure de se pencher davantage sur les théories du vivant, de la condition humaine, la frontière de plus en plus floue entre le vivant et le non-vivant : les théories fonctionnalistes de la conscience, défendues par S. Dehaene, L. Naccache et J.P. Changeux, les théories biologistes qui associent biologie et conscience, via des impératifs chimiques et et électriques. Les préférences de L. Devillers penchent du coté des théories biologistes : « il est difficile d’éviter pour l’instant l’impression que la biologie du cerveau est ce qui compte pour la conscience ». Elle se place dans la voie ouverte par le neuroscientifique Antonio Damasio, selon lequel l’intelligence émerge des émotions et l’intelligence humaine est indissociable du substrat, du corps humain. L’esprit humain est, non pas un phénomène purement cérébral, mais le produit d’interactions entre le corps humain et le cerveau. L’esprit, les émotions et en particuliers les sentiments émergent d’un état corporel.

Le livre arrive à point nommé, tant le domaine de recherche est aussi important que peu exploré. Quelques chiffres a l’appui, l’auteur dresse le tableau d’une société où il devient incompréhensible de ne pas se pencher davantage sur ces robots qui font irruption dans la société  :  20% des foyers aux Etats-Unis disposent d’une enceinte connectée, en 2020 chaque être humain possède en moyenne six objets connectés intelligents (l‘auteur ne précise pas dans quel pays).  Une multitude de questions passionnantes sont abordées dans cet ouvrage : l’autonomie des robots,  leur influence sur les humains sans le consentement de ceux-ci, la responsabilité de la machine du fait de sa capacités à modifier nos émotions, le rôle de la voix, le calculable et l’incalculable («où se situe le non programmable?)… La réflexion sur les algorithmes d’apprentissage et les masses de données doit s’appuyer sur des valeurs de “transparence, d’intelligibilité, de neutralité, d’inclusion, de non-discrimination… ». L’éthique ici n’est pas un vain mot mais la condition d’une régulation propre à préserver des valeurs démocratiques. 

Un livre à lire absolument, alerte, dense, argumenté et très documenté, même s’il s’arrête avant l’épineux sujet de l’autonomie de robots qui s’affranchiraient de la tutelle humaine. Cette question reste pour L. Devillers « hors du champ de la science actuelle ». En définitive, la question est pour elle davantage « comment allons nous vivre avec des objets simulant des capacités affectives nous poussant à les confondre avec des humains? ».

Laurence Devillers. Les robots «émotionnels». Santé surveillance, sexualité… : et l’éthique dans tout ça ?. Paris : 2020, Editions de l’Observatoire.271p. 20 euros.