“L’utilisateur de l’IA générative n’est plus un être cognitivement autonome : il “fait système” avec son chatbot. S’il tombe malade, il en parle avec l’IA et reçoit des conseils. Il faut dès à présent que les médecins travaillent avec cette nouvelle donne, car leurs patients vivent déjà avec ces machines parlantes. Un système de santé du XXIe siècle doit être construit sans attendre : avant toute consultation physique, un agent virtuel devrait orienter les patients. Certifié et validé à l’échelle nationale, il s’appuierait sur une IA souveraine. La visite chez le généraliste ne serait alors remboursée que si l’IA a confirmé ce besoin. Certains crieront au scandale. À tort ” estime Alexei Grinbaum, Directeur de recherche CEA-Saclay et président du Comité opérationnel pilote d’éthique du numérique du CEA (1).

Les enjeux d’un recours, qui serait massif, à des compagnons IA de santé, ou chatbots médicaux, se déclinent dans deux directions très différentes :  d’une part une dimension institutionnelle et économique, la réorganisation du système public de remboursement en santé;  d’autre part une dimension anthropologique, les nouveaux contours de l’autonomie cognitive humaine. L’enjeu anthropologique de la co-existence de l’humain et de la machine, “faire système avec son chabot” est – au delà du domaine de la santé – lié à beaucoup de compagnons IA, qu’ils soient considérés comme amis, conseillers éducatifs, conseillers professionnels, conseillers personnels, coachs, thérapeutes…

Les compagnons IA de santé semblent appelés à se généraliser. Dans le parcours de santé, ils interviendraient avant la consultation avec le médecin et le diagnostic posé par celui-ci, dans un objectif d’orientation. Les conditions à cette banalisation : ils devraient être”certifiés et validés” et s’appuyer sur une IA souveraine, précise A Grinbaum. Si ces perspectives semblent encore lointaines, aujourd’hui les compagnons IA de santé, plus ou moins alimentés en données personnelles, se déclinent sur le marché sous différentes formes, dont : 

• Chat GPT Health, Claude for Health, en version grand public.
• character.ai et Replika, en version personnalisée, plutôt orientée vers le coaching et la santé mentale.
• Alan, en version mutuelle. L’objectif de l’entreprise : “proposer à ses clients une application telle « un médecin de poche », gratuite, illimitée, capable de répondre en quelques secondes, peu importe où se trouve son utilisateur” `https://bigmedia.bpifrance.fr/nos-actualites/alan-la-neo-assurance-qui-allie-sante-et-technologie
• Hypocrate, start-up française, en version prévention, avec l’ambition de créer de nouvelles habitudes de santé https://www.ouest-france.fr/sante/un-compagnon-de-sante-a-
• Therabot, en version clinique, pour la santé mentale “premier essai clinique randomisé démontrant l’efficacité d’un chatbot thérapeutique entièrement basé sur l’IA générative pour traiter les symptômes de santé mentale de niveau clinique. Les résultats se sont révélés prometteurs pour les symptômes de TDM, de TAG et de CHR-FED. Therabot a été largement utilisé et a reçu des notes élevées de la part des utilisateurs. Les chatbots basés sur l’IA générative et finement réglés offrent une approche viable pour fournir des interventions personnalisées en matière de santé mentale à grande échelle, bien que des recherches supplémentaires avec des échantillons cliniques plus importants soient nécessaires pour confirmer leur efficacité et leur généralisation“. Randomized Trial of a Generative AI Chatbot for Mental Health Treatment. NEJM AI 2025;2(4). March 27, 2025.
• (…)

Pour l’avenir le cadre des interactions devra évidemment être précisé, notamment dans l’hypothèse où le compagnon IA pourrait prendre des décisions mettant en jeu la santé d’un patient. Soit dans le cadre d’un dérapage de l’IA, soit dans le cas ou le patient aurait donné une certaine délégation à un conseiller IA en santé. Le think tank Hasting Center a récemment publié un essai portant sur l’hypothèse où un patient ayant perdu son discernement pourrait autoriser un conseiller IA en santé mentale à prendre des décisions médicales pour lui : ” l’essai explore les tensions éthiques que ces roboagents génèrent en matière d’autonomie, de partialité, de consentement, de confiance familiale et du rôle des médecins. Cet essai appelle ensuite à une clarification juridique et à des orientations éthiques concernant le statut des roboagents, compte tenu de leur potentiel en tant qu’agents de soins de santé alternatifs” (2) https://onlinelibrary.wiley.com/action/showCitFormats?doi=10.1002%2Fhast.70042

1 – https://www.linkedin.com/in/agrinbaum/recent-activity/all/