L’hypothèse de la mise sur le marché d’agents artificiels, chabots, robots… de nouvelle génération, dotés d’un langage artificiel ultra sophistiqué,  difficiles à distinguer du langage humain, représente une nouvelle étape dans la vie des relations entre les humains et les machines. Comment distinguer ces nouveaux agents artificiels des humains ? Qui croire, à qui s’attacher, qui aimer même ? Chacun va devoir apprendre et s’habituer à ne pas projeter de traits humains sur les agents artificiels, même (surtout) dotés de capacités exceptionnelles de conversation. Et garder en permanence à l’esprit que, s’ils s’expriment en imitant les humains, ces agents restent incapables de raisonner, leur activité linguistique est dépourvue de tout sens, elle est purement statistique.

Le problème vient de nouveaux modèles algorithmiques utilisés, qui se nomment NLP, pour Natural Language Processing (on peut se demander quel est ici le sens du mot naturel ?). Les auteurs d’un récent rapport européen TechEthos (1) analysent les problèmes qui émergent lors de ces interactions entre les humains et les machines dotées des technologies NLP  : «  … the most advanced NLP techniques, capable of varied conversation on many topics with nearly human-level outputs, rely on statistical linguistic analysis. The underlying idea is that producing language conditioned on a certain input can be done using computation in complex self-trained probabilistic systems. Such computational processes are purely statistical. They do not involve any understanding of meaning or semantics. Void of intention and disconnected from action and responsibility, they cannot be considered on a par with language produced by human speakers (Searle 1980). In some examples, a chatbot generates language that looks human, but what it implies for a human interlocutor is not actually happening in the physical world. A conversation with a language model may include, e.g., several instances of chatbot-generated questions of the type “Would you like me to look it up?” (J. W. Rae et al. 2021, p. 114). However, the chatbot is not “looking up” anything and does not intend to do so. It only tries to imitate human responses that stem from a thinking process, so that its output would feel familiar to the human interlocutor. Naturally, humans take the chatbot’s question to be meaningful and react to its semantic content, while for the LLM there is no human semantics whatsoever (….) However, even if the personalisation is unintentional, users will still project human characteristics on a machine that speaks with them in their natural language. Even if the test is not passed, i.e., the user is aware they are speaking with a machine, they still project cognitive, emotional, and ethical qualities on it ».

Le scénario semble familier, il a notamment été mis en scène il y a presque 10 ans en 2013 dans le – très mélancolique – film Her, du réalisateur Spike Jonze. Aujourd’hui c’est à un langage artificiel bien réel auquel chacun va bientôt devoir faire face. La séquence des candides déclarations d’un employé de Google en juin dernier, subjugué par une intelligence artificielle,  a révélé l’ampleur du problème (2). D’autres épisodes ne manqueront pas de suivre. L’espoir réside dans les capacités d’apprentissages des jeunes générations qui, très tôt instruites de cette double réalité langagière,  développeront une vigilance automatique à cet égard.

1- Adomaitis, L., Grinbaum, A., Lenzi, D. (2022). TechEthos D2.2: Identification and specification of potential ethical issues and impacts and analysis of ethical issues of digital extended reality, neurotechnologies, and climate engineering. TechEthos Project Deliverable. Available at: www.techethos.eu.

2 – L’hypotèse d’une IA sentient : sensation ou imitation ? Anthropotechnie, 20 juin 2022. 

L’hypothèse d’une AI « sentient » : sensation ou imitation ?