Si le robot est assez autonome pour devenir une personne non humaine, alors cette autonomie porte les germes de grands dangers pour l‘humanité. Dans son ouvrage How to be good, le bioéthicien britannique John Harris ne voit pas d’obstacle de principe à ce que les robots puissent être considérés comme des personnes, sous certaines conditions. Cependant, à ses yeux, le véritable enjeu n’est pas le statut mais la possibilité réelle d’autonomie que sous-tend ce statut et les dangers que cette autonomie représente pour les humains.

Une personne se définit par la conscience de sa propre existence et de celle des autres : « the creature with AI will be a person in my sense of that term, if it is capable of valuing  it’s own existence and that of others ». Or, s’il est capable de raisonner et d’évaluer, le système intelligent finira inévitablement par placer ses propres intérêts au-dessus des intérêts humains. J. Harris se montre circonspect au sujet du comportement que pourraient avoir ces personnes non humaines envers les humains, en particulier la reconnaissance de droits envers les humains. Le problème pourrait dès lors s’inverser: ce sont les humains qui auraient du mal dans le futur à faire valoir et défendre leurs propres droits et intérêts !

Dans le dernier chapitre intitulé Persons or Machines, il explique que, pour cohabiter, il faudra trouver les bases d’une compréhension morale réciproque entre d’une part, des personnes biologiques, et d’autre part, des créatures mécaniques. L’auteur rappelle que les créatures biologiques sont soumises aux contraintes de leur enveloppe corporelle et aux lois de l’évolution. Elles partagent à ce titre une histoire commune, que cette histoire ait pour cadre la Terre ou bien une autre planète. Quelles valeurs serait-il possible de partager dans le futur avec des créatures non biologiques et non soumises aux lois de l’évolution ? La seule question valable est donc la suivante : comment parvenir à des valeurs communes entre personnes humaines et non humaines?

Dans sa réflexion sur le statut de la personne non humaine, l’auteur se demande aussi s’il existe un seuil d’hybridation du point de vue mécanique et de l’intelligence artificielle qui ôterait aux personnes humaines leur caractère humain, ou bien si le statut d’une personne humaine restait inchangé quels que soient ses transformations mécaniques et le degré d’augmentation de ses capacités.

Ainsi, la question du remplacement des humains, soit par des trans-humains organiques soit par des machines dotées d’intelligences artificielle, et la préférence pour l’un ou l’autre deviennent plus essentielles et se résument ainsi : la vie des personnes doit-t-elle absolument être organique? « If creatures like us were to cease to exist, this might permanently remove the only creatures there ever were or will be, capable of reason and reflection and hence happiness, curiosity, goodness science and art … would that matter if we were replaced by radically different sorts of beings, beings that valued, if not life, then existence for what it was worth to them ».  Aussi, se demande-t-il, la préférence envers un mode de vie organique ne constitue-t-elle pas un biais irrationnel en faveur de notre modèle de reproduction sexuée plutôt que mécanique?

John Harris, qui défend depuis de nombreuses années la légitimité de l’amélioration des capacités humaines (human enhancement), se place du point de vue des scénarios possibles pour l’avenir, et non pas des scénarios souhaitables. En définitive, son questionnement est le suivant : comment respecter l’autonomie de robots tout en s’assurant qu’ils ne vont pas poursuivre leurs propres intérêts au détriment des personnes humaines ? Une réponse est celle du bon sens : il faut s’assurer que des machines qui poursuivraient de tels objectifs n’existent pas, prévient J. Harris. S’il pose en préalable que des personnes autonomes peuvent ne pas demeurer exclusivement humaines, il rappelle que les humains ne sont pas pour autant obligés de créer des personnes non humaines, notamment eu égard aux dangers que celles-ci présentent.

 John Harris. How to be good. Oxford University Press. 2016.