Le corps humain sera t-il marginalisé par l’Intelligence artificielle (IA) ? Voilà l’une des questions examinées par David Gruson (1), auteur de La machine, le médecin et moi (2) pour démontrer l’urgence de la régulation des applications de l’AI dans le domaine de la santé. Des applications qui vont nécessairement se multiplier puisque “les IA peuvent devenir plus efficaces que les humains pour assurer la santé de nos corps“, c’est le test de Turing inversé (cf article du 17-01 de ce blog).

Pourquoi l’IA tendrait-elle à marginaliser le corps humain ? Pour des raisons très simples d’efficacité, explique l’auteur. Les IA en santé sont programmées pour soigner les humains de la manière la plus efficace possible. Or, plus les humains sont hybridés, en particulier à travers la multiplication d’objets connectés, et mieux ils se soignent. Ainsi “l’inversion en cours du test de Turing montre que la finitude de nos corps peut s’avérer problématique pour une IA si elle doit remplir les objectifs de sa programmation initiale qui constitue fondamentalement sa raison d’être” prévoit D. Gruson.  L’IA agit dans le sens de l’intérêt supérieur de l’exécution de son programme, et non de l’intérêt supérieur des humains au sens de la dignité humaine et des droits de l’homme.

L’IA est utilitariste

L’AI est, de ce point de vue, utilitariste. Elle raisonne en fonction de l’intérêt du plus grand nombre. Du coup elle tend, au fil de ses applications, non seulement à marginaliser le corps humain mais aussi de manière plus générale à laisser de coté les situations particulières des individus, explique D. Gruson. C’est d’ailleurs cette même question d’efficacité qui constitue la trame du film de science fiction 2001, L’odyssée de l’espace, et de l’ordinateur HAL. L’IA deviendrait “ susceptible de causer des dommages aux êtres humains mais au nom de l’intérêt supérieur de l’exécution de son programme” (3). Outre la marginalisation du corps, l’IA pose aussi le problème du traitement des cas individuels et amène l’auteur à se demander “Comment une société hyper-individualiste a pu produire une technologie qui risque de minorer la valeur de la vie individuelle ?”. 

(1) David Gruson est “ancien directeur d’hôpital, membre de la chaire santé de Sciences Po et professeur associé en droit de la génétique à la faculté de médecine Paris Descartes. Il est fondateur d’Ethik IA”. 

(2) David Gruson. La machine, le médecin et moi. L’intelligence artificielle nous soigne déjà. Paris : 2018, Editions de l’Observatoire. 16 euros

(3) Ce scénario est aussi le thème d’un ouvrage de science-fiction : David Gruson. S.A.R.R.A, une intelligence artificielle, Beta Publisher, 2018, sur la difficulté de concilier les objectifs de la programmation de l’AI et l’intérêt des humains.