Pourquoi restreindre les possibilités d’IA à l’imitation du cerveau humain ? Si le modèle privilégié pour le développement de l’ IA (Intelligence Artificielle) est aujourd’hui le cerveau humain, ce dernier ne serait pourtant pas le meilleur modèle pour l’IA. Envisager d’autres formes d’intelligence non biologiques, non symboliques, c’est ce que proposent les auteurs d’un article intitulé «Anthropomorphisme in AI»,  récemment publié dans l’AJOB, American Journal of Bioethics. Selon cette thèse, le discours contemporain perceptible autour des algorithmes d’intelligence artificielle, le deep learning en particulier, est aujourd’hui excessivement anthropomorphique. Trois principaux problèmes, en particulier une grande confusion morale, découleraient de ces exagérations dans l’anthropomorphisme :

• Une tendance à considérer les dispositifs d’IA comme des agents moraux, et leurs actions comme le résultat de processus de décision autonomes, « avec un impact normatif qu’ils ne devrait pas avoir ».
• L’émergence à la fois de peurs exagérées et d’un optimisme forcené au sujet de l’avenir de l’IA, qui reflètent une confusion éthique, liée à l’absence de frontières morales et ontologiques.
• Et surtout des conséquences épistémologiques au sein de la communauté des chercheurs : « la recherche de similarités biologiques et psychologiques amène à sous-estimer les possibilités d’autres cadres conceptuels et opérationnels, et ainsi en définitive limite le développement de l’IA».

L’anthropomorphisme ne ressort pas seulement des robots pour lesquels une apparence humaine est voulue. Il ressort, en amont, dès les premières étapes  de la recherche. L’imitation du cerveau humain est perceptible dès le début des recherches d’une IA « brain-inspired ». L’antropomorphisme réside aussi dans le langage utilisé : intelligence générale, synapses … «Projeter des traits humains dans l’AI pourrait être la conséquence du fait de penser l’humain comme un modèle et cela implique de revenir à une forme d’ontologie centrée sur l’humain, fermée à d’autres formes potentielles d’intelligence » estiment les auteurs, qui se placent dans la foulée de Jordan Pollack qui, déjà en 2006, dans l’ouvrage Mindless Intelligence, indiquait que «The symbolic mind that AI has tried to simulate for the last 50 years is hust a story of humans trying to predict and explain the unimaginably complex process occuring in the evolved brain. The contributions of many alternative nonsymbolic mechanisms have been ignored or excluded because of this preoccupation with mimicking human-level intelligence ».

L’intelligence artificielle, Brain-inspired AI, imite dans son fonctionnement l’intelligence humaine. L’anthropomorphisme, c’est à dire la réplication pour l’IA de l’organisation du cerveau des mammifères (Hassabis 2017), est aujourd’hui le concept dominant pour la mise en oeuvre de l’apprentissage profond, deep learning. Il existerait pourtant de grandes différences dans les structures, notamment le fait que les structures biologiques et les connections fonctionnelles soient largement hétérogènes, ce qui n’est pas le cas de l’IA. L’IA n’est pas biologique, sa structure n’est pas la même,  la recherche de similarités psychologiques et mentales n’aurait pas nécessairement de sens. Pire, elle pourrait restreindre l’analyse des enjeux et la portée de la reflexion éthique.  Le problème, pour les auteurs de l’article, est que cette manifestation d’anthropomorphisme risque de masquer des traits spécifiques à l’AI. L’IA serait ainsi à la fois fragile, inefficace et myope. 

Quelles sont les raisons qui poussent à cet anthropomorphisme ?  L’anthropomorphisme est défini par les auteurs de l’article comme l’attribution de sentiments humains, d’état mentaux et de caractéristiques comportementales proprements humaines à des objets inanimés, à des animaux et en général à des phénomènes naturels et des entités surnaturelles. Ou plus exactement l’interprétation de propriétés qui seraient humaines, au-delà de ce qui est observable. Ses fondements sont analysés à travers une théorie de la psychologie de l’anthropomorphisme publiée en 2007 par Epley et al. En résumé, deux éléments se dégagent pour expliquer la tendance humaine à l’anthropomorphisme. D’une part un besoin ressenti, pour les humains, d’interagir avec le monde extérieur et d’autre part un besoin de créer des liens sociaux. Les variabilités dans ces besoins induiraient des variabilités dans la tendance à l’anthropomorphisme, par exemple pour compenser un déficit de relations sociales.

Les travaux aujourd’hui menés en éthique appliquée, les principes de bioéthique, les guidelines ainsi que les autres notions spécifiques à l’éthique de l’IA seraient nécessaires, mais tout à fait insuffisants pour pallier aux inconvénients majeurs induits par l’anthropomorphisme en IA. Les auteurs envisagent alors une nouvelle approche conceptuelle pour l’éthique de l’intelligence artificielle, qui serait intégrée dès le développement des technologies. Globalement, une grande prudence serait de mise, au vu de ces inconvénients majeurs dans les interprétations anthropomorphiques de l’AI, portées par certains auteurs. Une ambiguïté de taille subsiste et se résume de la manière suivante : le recours à un mot « biologique » pour qualifier un phénomène non biologique.

 Anthropomorphism in AI

Traductions de la rédaction.