Un médecin qui utilise Dropbox et Gmail met-il en péril la confidentialité des données de ses patients ? Un autre qui se fie à l’AI pour diagnostiquer une tumeur peut-il se le voir reprocher ? Comment assurer la sécurité des données de santé stockées dans un hôpital ? Dans quelle mesure un “aidant” de personnes âgées peut-il recourir à des assistants numériques pour leur tenir compagnie ? Comment un étudiant en médecine se forme à la pratique numérique, à renforcer la relation humaine dans le soin ? …

Ces quelques exemples, mis en valeur dans le rapport Numérique et santé. Quels enjeux éthiques pour quelles régulation (1) ? illustrent les nouveaux enjeux de la médecine du futur. “Fait majeur et irréversible“, l’irruption de l’AI en santé constitue la promesse d’extraordinaires bienfaits et la perspective de profonds bouleversements. Les conclusions de cette réflexion menée par le CCNE, Comité Consultatif National d’Ethnique sont été rendues publiques le 19 novembre dernier.  Le secteur de la santé représente l’un des 4 secteurs prioritaires envers lesquels l’Etat doit concentrer l’effort économique et industriel (avec le transport-mobilités, l’écologie et la défense-sécurité, estimaient les auteurs du rapport Villani ” Donner un sens à l’intelligence artificielle” en mars 2018. Dans la foulée du rapport Villani, le CCNE contribue lui aussi à la réflexion pour la régulation de la santé connectée, de la télémédecine, de la chirurgie pilotée par ordinateur, de l’identification des tumeurs et leur degré de malignité par les algorithmes, modélisation des épidémies  et tous les autres domaines ou l’AI permet de mieux prédire, prévenir, diagnostiquer et soigner. Ce qui représente un très vaste domaine analysé par le rapport.

Au chapitre des risques, le CCNE appelle à une vigilance particulière concernant :

• Les inégalités de santé. Plus de 20%de la population française n’a pas d’accès à Internet, rappelle régulièrement Jean-Francois Delfraissy, président du CCNE. L’irruption de l’AI en santé recompose la question de l’accès à la médecine. Il provoque de nouvelles inégalités d’accès et en résorbe d’autres à la fois, souligne David Gruson, rapporteur du groupe de travail
• La capacité pour un patient de prendre une décision pour sa propre santé à travers la délégation de consentement à des algorithmes.
• La minoration de la prise en compte des situations individuelles dans des modèles algoritmiques.
• La difficile conciliation entre le besoin de recourir à des vastes cohortes pour la recherche en santé et la préservation du caractère privé de ces données de santé, notamment dans le but d’éviter d’éventuelles discriminations.

Dans cette réflexion indispensable autour de la qualité du soin apporté aux patients,  et plus généralement de l’ensemble des pratiques de santé,  c’est un vaste secteur qui est concerné remarquent les auteurs du rapport qui soulignent les risques de “déstabilisation de notre système de santé et des professionels“. Deux principes retenus pour encadrer le recours croissant à l’AI dans le domaine de la santé  et préserver les intérêts des patients :

• Un devoir d’information renforcé quand une décision médicale s’appuie sur une IA 
• Un droit à une garantie humaine qui “gagnera à être inscrit au niveau législatif“. 

(1) Rapport Numérique et santé. Quels enjeux éthiques pour quelles régulation?. Disponible sur : https://www.ccne-ethique.fr/fr/actualites/numerique-sante-quels-enjeux-ethiques-pour-quelles-regulations-0