Des “robots tueurs” auraient la possibilité de retirer la vie. Derrière l’expression popularisée de “robots tueurs”, se profile toute une série d’armes programmées et commandées à distance et plus ou moins autonomes.  Les SALA, Systèmes d’Armes Létales Automatisées  (LAWS, Lethals Automatized Weapons) représenteraient le stade ultime de l’automatisation, celui de l’autonomie. Les SALA se définissent alors comme des systèmes d’armes capables de choisir et d’engager seuls une cible, sans intervention humaine, dans un environnement changeant (1).

Beaucoup se demandent s’il  est conforme à l’idée que l’on doit se faire de la dignité humaine, qu’un jour, un robot puisse être suffisamment autonome pour se voir confier cette responsabilité ultime qu’est la décision de tir. Le maintien de “l’humain dans la boucle”, d’une décision qui ressortirait in fine de l’humain, reste le socle des politiques publiques dans ce domaine. Cette affirmation ne dit pourtant rien des conditions réelle du partage de l’autorité. L’humain garde le contrôle certes, mais dans quelle partage d’autorité avec la machine, à quel moment, à quelle distance ? En dehors des problèmes moraux et des problèmes de prolifération, l’émergence des SALA entraine toute une séries d’autres interrogations  : les risques d’erreurs liées aux capacités réelles des algorithmes dans la distinction entre un combattant et un autre combattant, entre un combattant et un civil,  les problèmes de sécurité que posent les possibilités de hacking, le risque de déconnexion accidentelle ou volontaire, la nécessité de maintenir un “bouton rouge” en cas d’urgence…

Comment aborder, d’un point de vue moral, la question de la délégation du tir fatal ?  La délégation du pouvoir de vie et de mort à des machines serait contraire au principe de dignité humaine, induirait une dévalorisation de l’existence humaine. La distanciation grandissante entre la cible et l’opérateur constitue le cadre de ces interrogations. La dignité se perdrait dans la distanciation entre l’intention humaine et la décision de tirer. Dans cette délégation de tir, l’humain serait réduit à devenir une cible, au même titre que n’importe quel objet. : « the importance of retaining human agency – and intent – in decisions to use force, is one of the central ethical arguments for limits on autonomy in weapon systems. Many take the view that decisions to kill, injure and destroy must not be delegated to machines, and that humans must be present in this decision-making process sufficiently to preserve a direct link between the intention of the human and the eventual operation of the weapon system. Closely linked are concerns about a loss of human dignity. In other words, it matters not just if a person is killed or injured but how they are killed or injured, including the process by which these decisions are made. It is argued that, if human agency is lacking to the extent that machines have effectively, and functionally, been delegated these decisions, then it undermines the human dignity of those combatants targeted, and of civilians that are put at risk as a consequence of legitimate attacks on military targets » est-il indiqué dans le rapport Ethics and autonomous weapon systems: An ethical basis for human control ?,  publié par le Comité international de la Croix Rouge, ICRC, International Committee of the Red Cross (2). On peut cependant se demander quelle serait, sur la base de cette argumentation et à horreur égale, la différence entre une mort qui serait donnée par un missile programmé et commandé à distance, et une mort qui serait donnée par un robot de type SALA davantage automatisé, un robot tueur. Les deux restent des machines automatisée, la différence résidant dans le degré d’autonomie. Ce qui induit une différence évidente, sur le plan pratique, dans le risque d’erreur de cible, dans le caractère terrorisant d’armées de robots-soldats humanoïdes ou de la pullulation d’essains de drones, mais une différence peut-être moins évidente sur le plan purement moral. 

Quelle serait alors le problème moral spécifique lié aux SALA, en tant que machines autonomes,  par rapport à d’ autres armes qui seraient plus simplement automatisées ? Le robot, même autonome, pas plus que d’autres machines, ne sera jamais moral au sens d’”avoir une morale”. Le robot en général et le “robot tueur” en particulier ne peuvent être moraux, au sens de la compréhension du bien et du mal, de valeurs et d’un sens à donner à leurs actions. Le pouvoir de la machine s’arrête au calculable, à ce qui se met en équations. La limite de la machine se trouve le non calculable, l’incapacité de résoudre un dilemme moral avec le recours de son intuition, la difficulté d’établir un jugement en l’absence de certitudes. De ce point de vue,  un robot qui serait moral est davantage un robot acceptable pour tous en raison de sa neutralité. L’adjectif moral, appliqué à un robot qualifie non pas un sens à l’action qui serait déterminé par des valeurs, mais des modalités pratiques pour la prise de décision. Ce robot serait neutre, animé par une algorithme exempt de biais, et dont les décisions seraient toujours compréhensibles, ce qui est loin d’être le cas aujourd’hui. L’effet « boite noire » (2) des algorithmes, l’impossibilité d’expliquer les mécanismes qui conduisent à une décision, est propre aux systèmes algorithmiques dit de “deep learning”. La complexité va de pair avec l’efficacité, au détriments de l’explicabilité. Ne serait-ce pas là, en définitive, dans l’absence d’explicabilité,  le problème majeur et persistant de la délégation de la décision de tirer à des machines.  Cette question, dans le domaine militaire, prend une ampleur considérable et incommensurable. Car, en simplifiant un peu, comment accepter d’enlever la vie pour des raisons qui ne seraient pas complètement expliquées ?  L’inacceptable se trouverait peut-être aussi ici, dans les méandres de la boîte noire. Les considérations d’efficacité et de rapidité sont ici à mettre en balance avec d’autres considérations. Et viennent se confronter aux impératifs liés à la géopolitique, à la volonté de puissance de certains Etats. A l’objectif  d’éviter de plus grand maux, de protéger des vies humaines, celles des combattants, mais aussi des vie civiles.

. ’