Manipuler le comportement d’une personne par le biais d’appareils connectés branchés sur le cerveau  : le scénario aujourd’hui n’est plus à exclure. Des innovations pourraient mettre en péril le respect de la vie privée (privacy), l’identité (identity), la volonté (agency) et l’égalité. Face à la montée en puissance des neuro-technologies, la réflexion éthique serait aujourd’hui très insuffisante. 

Une tribune, publiée le 9 novembre dernier dans le magazine Nature, met les pieds dans le plat.  Signé de Morningside Group, un groupe de 27 co-auteurs spécialistes des neurotechnologies, médecins, entrepreneurs, chercheurs, issus à la fois du monde académique et du monde des affaires, le texte appelle à édifier les piliers d’une éthique des neurotechnologies et de l’intelligence-machine (artificielle).

Des appareils qui relient le cerveau à des ordinateurs vont, demain, rendre possible la manipulation par des personnes extérieures des mécanismes cérébraux qui sous-tendent les émotions, les intentions et donc les décisions.  Ces appareils sont aujourd’hui utilisés pour soutenir les capacités de personnes handicapées, souffrant de différentes pathologies,  d’atteintes à la moelle épinière en particulier. Demain, la convergence de ces appareils avec les big data va faire exploser les capacités technologiques, et du même coup leurs conséquences possibles sur les processus émotionnels et cognitifs. Le cerveau pourrait se retrouver directement branché sur des intelligences artificielles, “court-circuitant les fonctions sensori-motrices normales des cerveaux et des corps“.  Aux Etats-Unis, la DARPA,  Defense Advanced Research Projects Agency, développe par exemple un petit appareil connecté capable d’enregistrer l’activité du cerveau en utilisant un million d’électrodes pour stimuler jusqu’à 100 000 neurones…

Le Morningside Group appelle les pays à créer leurs propres institutions délibératives sur ce sujet “to médiate open debat involving représentatives from all sectors of society, and to détermine how to translate the guidelines into policy, including specific laws ad regulations“. Le monde de la recherche académique et industrielle est, pour sa part, appelé à prendre ses responsabilités dans ce domaine, en développant une “responsible neuro engineering“, en incorporant un code éthique dans les process de design. 

Les auteurs entendent contribuer au débat en apportant des propositions concrètes.  Du point de vue du caractère privé et du consentement, ils souhaitent en particulier que le choix de ne pas partager ses données neuronales constitue un choix par défaut. Et que, à l’image des organes, leur usage commercial soit strictement réglementé. Les auteurs expriment leur crainte de voir émerger une pression sociale pour l’augmentation des capacités cérébrales qui pourrait contraindre implicitement à l’utilisation de ces neurotechnologies. De nouvelles formes de discrimination pourraient  apparaître vis à vis des personnes qui ne seraient pas équipés de ces dispositifs. Ils  recommandent, dans l’objectif de préserver les fonctions neuronales  :

• d’ajouter un neuro-droit aux dispositions existantes des traités internationaux en vigueur s’appliquant aux droits de l’homme, par exemple la Déclaration des droits de l’homme de 1948
• de mettre en place une convention pour définir les actions interdites liées aux neurotechnologies et à l’intelligence machine

Four Ethical priorities for neurotechnologies and AI. Nature 9 novembre 2007, vol. 551, p.159