Les pratiques de “brainjacking” consistent en une “prise de contrôle non autorisée de l’implant électronique cérébral d’une autre personne” (1). Une telle prise de contrôle reviendrait à maitriser les états cognitifs, émotionnels et même la volonté d’une autre personne. Les craintes de voir se réaliser de telles actions sont-elles justifiées ? se demandent les auteurs de “Brainjacking in deep brain stimulation and autonomy” (2), un article qui prend place dans la littérature émergente sur le sujet du cerveau connecté, devenu “hackable“. 

Dans cette analyse des interfaces cerveau-machines (Brain Computer Interface, BCI), il est plus particulièrement question de la technologie DBS, Deep Brain Stimulation,  et  les conséquences de ces interventions sur le fonctionnement neuronal du point de vue de l’autonomie. Le DBS consiste en “une procédure neurochirurgicale dans laquelle des electrodes sont implantées chirurgicalement dans des zones précises du cerveau du patient, de manière à ce que les médecins puissent agir sur le fonctionnement neuronal et ainsi modifier le comportement“. Le cerveau est de cette manière connecté via des “subdermal wires” à un “implantable pulse generator” installé dans la poitrine du patient, lequel contient une batterie, un microprocesseur, une mémoire et une antenne. Le cerveau est alors en mesure de recevoir un programme. Les auteurs observent que une fois ce dispositif installé, l’hypothèse dans laquelle une tierce partie pourrait interférer dans le programme sans le consentement du patient devient plausible. Plusieurs exemples de brainjacking possibles sont alors explorés :  

• une prise de contrôle du DBS par une tierce partie malveillante qui incite  le patient à commettre des délits de harcèlement sexuel,
• l’exercice imposé de l’autorité parentale pour continuer soigner une enfant anorexique qui a accepté un DBS traitement mais qui souhaite l’interrompre. 

Les possibilités de brainjacking sont liées à la manière dont les électrodes sont implantées. A cette réserve près, toute une série d’actions de perturbation de l’appareil moteur sont susceptibles d’altérer l’autonomie de la personne, son comportement et la manière dont elle prend des décisions. 

Les auteurs évoquent – un peu rapidement ce qui est dommage – d’autres cas épineux de prise de contrôle par des tiers, le cas où l’autorité judiciaire pourrait intervenir pour des raisons de sécurité publique. Ou encore le cas des systèmes cloosed loop, ou les tiers sont des algorithmes qui décident eux-même le type de stimulation à effectuer en fonction de l’état du patient.

Dans cette exploration de nouvelles formes de manipulation des personnes, les auteurs en font ressortir deux aspects :

• Le sujet du consentement de patients nécessairement vulnérables à des actes médicaux est déjà, en dehors de tout brainjacking,  un abîme de réflexions du point de vue de l’autonomie des individus,
• Le traitement par DBS d’un patient a pour objectif, indépendamment des risques, une amélioration de son autonomie altérée par la maladie. Les interférences des tierces parties doivent être interprétées en fonction du degré et la forme de d’altération de l’autonomie par la maladie.

Dans cette approche du BCI, qui à la fois augmente et diminue l’autonomie, émerge aussi en pointillé le problème de l’altération de la compréhension de soi comme un agent autonome.

(1) Traductions de la rédaction.

(1) Jonathan Pugh, Laurie Pycroft, Anders Sandberg, Tipu Aziz er Julian Savulescu. Brainjacking in deep brain stimulation and autonomy. Ethics and information technology. 2018.