IA en santé: «Démontrez-moi que ça fonctionne»

À quoi bon intégrer l’intelligence artificielle dans votre pratique si vos patients ou vous ne lui faites pas confiance et si vous n'en voyez pas l'utilité? Au-delà des aspects technologiques à maîtriser, l’un des principaux freins à l’adoption d’outils basés sur l’IA dans le secteur de la santé est la défiance que ces derniers peuvent susciter. «La confiance de la population est très forte envers les médecins, les pharmaciens et les infirmières, mais 60% des Américains sont aujourd’hui inconfortables avec l’utilisation de l’IA dans leurs soins de santé», expliquait fin mars le Dr Daniel Yang, vice-président de l’IA et des technologies émergentes chez Kaiser Permanente, lors du Sommet sur la santé de l’Association médicale canadienne (AMC).D’après lui, les développeurs d’outils basés sur l’intelligence artificielle n’ont pas donné au public suffisamment de raisons de leur faire confiance. «En santé, l’utilisation de l’IA n’est pas moins risquée qu’une chirurgie ou qu’une anesthésie. Mais on estime que, pour ces procédures, les avantages l’emportent sur les risques en raison des preuves cliniques, de l’expérience et de la formation clinique des médecins, de l’infrastructure de sécurité», a plaidé le Dr Yang. Alors que l’infrastructure de vigilance entourant une anesthésie par exemple rend plus faible le risque d’erreur humaine, rien de tel ne permet de rassurer au sujet de l’IA. À lire aussi: Au CHUM, économiser des millions avec l'IA sans nuire aux patientsLe manque de transparence et les biais de l’IA alimentent cette défiance. Bien que nous vivons «dans une société pleine de biais», et qu’il soit par conséquent «logique que nos technologies le soient aussi» selon Daniel Yang, ce constat peine à excuser des erreurs de diagnostic ou une mauvaise détection d’une maladie chez un patient. En effet, un taux d’efficacité de 85% d’un outil basé sur l’IA ne sera pas perçu de la même manière si on parle de marketing ou de médecine, observe Jean-François Ethier, cofondateur et codirecteur scientifique du Groupe de recherche interdisciplinaire en informatique de la santé (GRIIS) et professeur titulaire en médecine à l’Université de Sherbrooke. «Une erreur de la part d’un clinicien peut concerner n’importe quel patient. Mais, même si le risque d’erreur est potentiellement plus faible avec l’IA, elle pourrait sur-cibler certains groupes en raison des biais dans les données d’entraînement», explique le chercheur. «Et comme ces outils sont en constante évolution, leurs réponses pourraient ne pas être les mêmes aujourd’hui que demain.»Un manque de preuves sur l'utilité de tels outilsMais pour Jean-François Ethier, il ne s’agit pas tant d’un déficit de confiance que d’un manque de preuves concernant la réelle utilité de l’IA en santé. Sur cette question, Annabelle Cumyn, professeure en médecine spécialisée à la Faculté de médecine et des sciences de la santé de l’Université de Sherbrooke et membre du GRIIS, s’interroge: «Un outil d’IA serait-il plus efficace pour résoudre un problème complexe qu’un ophtalmologue qui peut examiner le patient directement? D’autant que l’IA peut faire des hallucinations si elle n’a jamais été exposée à certains diagnostics.»De la même manière, les professionnels de la santé que Jean-François Ethier rencontre au cours des formations qu’il dispense sur le sujet lui formulent généralement la même objection: «Démontrez-moi que ça fonctionne». Bien que certains outils aient fait leur preuve pour réduire la charge administrative des médecins notamment, la Dre Joss Reimer estime que cette charge est encore trop importante pour se permettre de consacrer du temps à maîtriser un nouvel outil si son utilité n'est pas avérée. «Essayer de comprendre quel outil utiliser, comment il fonctionne, où vont les données et sur quoi se basent les diagnostics est très difficile et ne fait qu’ajouter à leur charge de travail.» À lire aussi: IA et dispositifs d’aide à la décision médicale: quels retours des usagers?En outre, contrairement aux nouveaux médicaments et molécules, qui font l’objet d’études révisées par les pairs et de validations officielles, le reporting concernant les outils basés sur l’IA est «au mieux incomplet, au pire problématique» pour Jean-François Ethier. «Les soignants veulent prendre des décisions éclairées. Nous devons être capables d’appliquer la même rigueur scientifique à des outils basés sur l’IA que celle que nous appliquons aux médicaments depuis longtemps. Ceci implique donc d’avoir des études scientifiques solides.»Il devient donc essentiel de valider les différentes applications de l’IA dans la santé, en incluant ces outils dans la littérature basée sur les données probantes. Un constat que partage la Dre Joss Reimer, présidente de l’AMC. «Nous devons inclure cet aspect dans nos recherches, pour disposer d’un soutien scientifique solide et prouver que l’IA peut être utile aux patients», précise-t-elle à Profession Santé. «Nous pourrons ainsi les rassurer, en leur démontrant que l’IA leur sera bénéfique au même titre que n’importe quel médicament ou outil que nous pourrions utiliser pour les soigner.»«Trouver un équilibre entre soutenir l'innovation et protéger le public»Parmi les autres freins à l’adhésion aux outils basés sur l’IA en santé, l’enjeu des données se place en bonne position. Alors que nous passons notre temps à entrer des informations personnelles dans diverses applications et à accepter les «Termes et conditions» sans même les lire, les attentes en termes de protection du public et des données sont bien plus importantes dans le système de santé «professionnel», affirme Jean-François Ethier. «Dès qu’on parle des données d’un hôpital, leur utilisation devient très normée, contrairement à d’autres données qu’on pourrait fournir nous-mêmes à Google ou Apple par exemple.» Or, ces applications basées sur l’IA s’entraînent et s’améliorent continuellement grâce aux données patients accumulées. Une logique déstabilisante pour les professionnels de la santé selon lui. «La mise en place d’un outil d’IA qui peut évoluer implique des processus pour l’encadrer et le suivre dans le temps pour s’assurer qu’il n’y ait pas de dérive. Ça pourrait faire perdre la confiance si on ne communique pas bien à ce propos», observe le chercheur. «Il faut trouver un équilibre entre soutenir l’innovation et protéger le public, comme pour les médicaments.» À lire aussi: Outils d’IA et paperasse: pourquoi leur taux d’utilisation chez les médecins est-il toujours aussi faible?Bien que la surveillance assurée par Santé Canada ou encore Obvia au Québec s’améliore selon Jean-François Ethier, ce n’est pas suffisant. La transparence est de mise, tout comme un cadre réglementaire adapté, plaidait le Dr Daniel Yang au Sommet de l’AMC. «Nous devons demander des comptes aux entreprises pour garantir que les données sont stockées de manière sécurisée, afin que les gens puissent être sûrs que leurs informations ne seront pas partagées là où elles ne devraient pas l'être. Les gouvernements doivent nous aider à élaborer une réglementation visant à garantir que ces outils soient soumis aux mêmes normes que n'importe quel autre dispositif médical ou option thérapeutique.» Un système gagnant-gagnant selon lui, puisque «si le public ne nous fait pas confiance, les réglementations n’en seront que plus strictes et contraignantes.»En attendant, ce sont les organisations professionnelles qui ont dû prendre en charge une partie du contrôle de l’utilisation des outils basés sur l’IA pour leurs membres. La question de la responsabilité des professionnelsTous les experts pointent cependant l’enjeu de la responsabilité des professionnels, engagée par l’utilisation d’outils basés sur l’IA en santé. «Comme clinicien et gestionnaire, ça devient difficile de se positionner, confirme Jean-François Ethier. Les responsabilités sont trop peu, voire mal définies. Dans le système public, si les mauvaises données sont intégrées dans l'outil, ça amène à une mauvaise décision.»Autant d’interrogations qui pourraient, à terme, miner la relation de confiance entre le soignant et le patient, prévient la Dre Reimer. «Le potentiel est énorme, et l’IA en santé est là pour rester. Nous devons donc nous assurer d’investir dans cette confiance, car il s’agit d’une relation sacrée.» Elle appelle les diverses organisations professionnelles à s’accorder pour élaborer des normes et des listes de contrôle destinées aux cliniciens, pour s’assurer d’utiliser le bon outil au bon moment avec le bon patient. À lire aussi: ChatGPT peut-il améliorer la prise de décision médicale sans induire de biais?Dans ce cadre, les soignants doivent-ils recommander des applications basées sur l’IA à leurs patients? Dans ses «Principes directeurs pour les médecins qui recommandent à leurs patients des applications mobiles sur la santé» publiés en 2015, l’AMC rappelle que la technologie basée sur l’IA doit venir en complément de la relation médecin-patient, et non la remplacer, et recommande que les praticiens «prescrivent» des applications aux patients dans le seul but d'améliorer la sécurité ou l'efficacité des soins – en vérifiant au préalable s’il existe des données probantes concernant la sécurité et l’efficacité de l’application, en s’assurant du niveau de confort du patient, et en déterminant si l’application a été approuvée par une organisation professionnelle. «Personnellement, je pense que l’approche avec le patient est très similaire à celle pour les produits naturels ou en vente libre», observe Jean-François Ethier. «Est-ce que leur utilisation empêche le patient d’avoir une prise en charge médicale soutenue par la science? Existe-t-il des risques avérés démontrés? Peut-on craindre un abus financier pour le patient? Notre rôle est de partager nos questionnements, pas de lui dire quoi faire.»

IA en santé: «Démontrez-moi que ça fonctionne»

Pour accéder au contenu, connectez-vous ou créez un compte gratuit.

Catégories connexes