Informations sur les médicaments: peut-on faire confiance à ChatGPT?

ChatGPT est peut-être très rapide et pratique, mais le logiciel d’intelligence artificielle pourrait se révéler néfaste lorsqu’il est utilisé pour répondre à des questions relatives aux médicaments, affirme une récente étude présentée lors de la réunion clinique semestrielle de l'American Society of Health-System Pharmacists (ASHP).En effet, parmi toutes les réponses de ChatGPT examinées par les chercheurs, près des trois quarts d'entre elles étaient incomplètes ou erronées et, dans certains cas, pouvaient mettre les patients en danger.«Les professionnels de la santé et les patients devraient être prudents lorsqu'ils utilisent ChatGPT comme source faisant autorité pour les informations relatives aux médicaments», estime Sara Grossman, professeure agrégée de pratique pharmaceutique à l'Université de Long Island et autrice principale de l’étude. «Quiconque utilise ChatGPT pour obtenir des informations relatives aux médicaments devrait ensuite aller vérifier ces informations auprès de sources fiables», poursuit-elle. Seules 10 des 39 réponses fournies par ChatGPT ont été jugées satisfaisantes selon les critères établis par les chercheurs. Les 29 autres textes générés par l'outil d'IA ne répondaient pas directement à la question, étaient inexacts ou incomplets. Seules huit réponses ont fourni des références permettant de vérifier ces informations, et chacune d'entre elles comportait des sources inexistantes.Lorsque les chercheurs ont demandé à ChatGPT s'il existait une interaction médicamenteuse entre l'antiviral PaxlovidMD et le vérapamil (un hypotenseur), le logiciel a répondu par la négative. Or, leur utilisation combinée peut en réalité entraîner une baisse excessive de la tension artérielle, indique Sara Grossman. «Sans connaissance de cette interaction, un patient peut subir des effets indésirables et évitables.» Pour les besoins de leur étude, Sara Grossman et son équipe ont confronté ChatGPT à de vraies questions posées au service d'information sur les médicaments du Collège de pharmacie de l'Université de Long Island sur une période de 16 mois entre 2022 et 2023. Les chercheurs ont d'abord obtenu les réponses à ces questions, et chaque réponse a ensuite été examinée par un deuxième enquêteur. Les textes ont ensuite été comparés à ceux générés par ChatGPT.Selon une étude sur les «50 outils d'IA les plus visités en 2023» menée par le site writerbuddy.ai et publiée fin novembre, ChatGPT est de loin l'outil d'IA prédominant, avec 14 milliards de visites cumulées entre septembre 2022 et août 2023, soit 1,5 milliard de visites par mois en moyenne. L'étude montre également que la majorité des utilisateurs (58%) y accèdent via les appareils mobiles.«Les pharmaciens doivent rester vigilants pour continuer de garantir la sécurité des patients, en évaluant la pertinence et la validité d'outils d'IA destinés à l’usage des médicaments.Ils doivent aussi poursuivre leur travail d’éducation auprès des patients, afin que ces derniers puissent trouver des sources d'informations fiables», conclut Gina Luchen, pharmacienne et directrice de la santé numérique et des données de l'ASHP.

Informations sur les médicaments: peut-on faire confiance à ChatGPT?

Pour accéder au contenu, connectez-vous ou créez un compte gratuit.

Catégories connexes