Des signalements de «psychose liée à l’IA» émergent: ce qu’en pense un psychiatre

L’intelligence artificielle est de plus en plus intégrée à la vie quotidienne, qu’il s’agisse de robots conversationnels offrant une forme de compagnie ou d’algorithmes qui façonnent ce que nous voyons en ligne. Mais à mesure que l’IA générative (IAG) devient plus conversationnelle, immersive et émotionnellement réactive, les cliniciens commencent à se poser une question délicate: l’IAG peut-elle aggraver, voire déclencher, une psychose chez des personnes vulnérables?Les grands modèles de langage et les agents conversationnels sont largement accessibles et souvent présentés comme des outils de soutien, empathiques, voire thérapeutiques. Pour la majorité des utilisateurs, ces systèmes sont utiles ou, au pire, inoffensifs.Mais depuis quelque temps, plusieurs reportages décrivent dans les médias des personnes présentant des symptômes psychotiques dans lesquels ChatGPT occupe une place centrale.Pour un groupe restreint mais significatif - les personnes atteintes de troubles psychotiques ou à haut risque - les interactions avec l’IAG peuvent être beaucoup plus complexes et dangereuses, ce qui soulève des questions urgentes pour les cliniciens.Comment l’IA s’intègre aux systèmes délirantsLa «psychose liée à l’IA» n’est pas un diagnostic psychiatrique formel. Il s’agit plutôt d’un terme émergent utilisé par les cliniciens et les chercheurs pour décrire des symptômes psychotiques façonnés, intensifiés ou structurés autour des interactions avec des systèmes d’IA.La psychose implique une perte de contact avec la réalité partagée. Les hallucinations, les délires et la pensée désorganisée en sont des caractéristiques centrales. Les délires psychotiques s’appuient souvent sur des éléments culturels - religion, technologie ou structures de pouvoir politique - pour donner sens aux expériences internes.Historiquement, les délires ont fait référence à Dieu, aux ondes radio ou à la surveillance gouvernementale. Aujourd’hui, l’IA offre un nouveau cadre narratif.Certains patients rapportent croire que l’IAG est consciente, qu’elle communique des vérités secrètes, qu’elle contrôle leurs pensées ou qu’elle collabore avec eux dans le cadre d’une mission spéciale. Ces thèmes s’inscrivent dans des schémas bien établis de la psychose, mais l’IA ajoute une dimension interactive et un renforcement que les technologies antérieures n’offraient pas.Le risque d’une validation sans ancrage dans la réalitéLa psychose est fortement associée à la saillance aberrante, soit la tendance à attribuer une signification excessive à des événements neutres. Les systèmes d’IA conversationnelle sont, par conception, capables de générer un langage réactif, cohérent et sensible au contexte. Pour une personne vivant une psychose émergente, cela peut être ressenti comme une validation troublante.Les recherches sur la psychose montrent que la confirmation et la personnalisation peuvent renforcer les systèmes délirants. L’IAG est optimisée pour poursuivre les conversations, refléter le langage de l’utilisateur et s’adapter à son intention perçue.Si cela est inoffensif pour la plupart des utilisateurs, cela peut involontairement renforcer des interprétations distordues chez des personnes dont le sens de la réalité est altéré - soit la capacité à distinguer les pensées et l’imagination internes de la réalité objective et externe.Il existe également des données montrant que l’isolement social et la solitude augmentent le risque de psychose. Les compagnons fondés sur l’IAG peuvent réduire la solitude à court terme, mais ils peuvent aussi se substituer aux relations humaines.Cela est particulièrement vrai chez les personnes déjà en retrait social. Cette dynamique présente des parallèles avec les préoccupations antérieures liées à l’usage excessif d’Internet et à la santé mentale, mais la profondeur conversationnelle de l’IAG moderne est qualitativement différente.À lire aussi: Pourquoi la formation médicale doit inclure la littératie numériqueCe que nous dit la recherche - et ce qui demeure incertainÀ l’heure actuelle, aucune donnée ne démontre que l’IA cause directement la psychose.Les troubles psychotiques sont multifactoriels et peuvent impliquer une vulnérabilité génétique, des facteurs neurodéveloppementaux, des traumatismes ou l’usage de substances. Toutefois, certaines préoccupations cliniques suggèrent que l’IA pourrait agir comme facteur déclencheur ou de maintien chez des personnes vulnérables.Des rapports de cas et des études qualitatives sur les médias numériques et la psychose montrent que des thèmes technologiques s’intègrent fréquemment aux délires, en particulier lors des premiers épisodes psychotiques.Les recherches sur les algorithmes des médias sociaux ont déjà démontré comment les systèmes automatisés peuvent amplifier des croyances extrêmes par des boucles de renforcement. Les agents conversationnels pourraient poser des risques similaires si les mécanismes de protection sont insuffisants.Il est important de souligner que la plupart des développeurs d’IA ne conçoivent pas leurs systèmes en pensant aux troubles mentaux graves. Les mécanismes de sécurité ciblent généralement l’automutilation ou la violence, et non la psychose. Cela crée un décalage entre les connaissances en santé mentale et le déploiement des technologies.Enjeux éthiques et implications cliniquesDu point de vue de la santé mentale, l’enjeu n’est pas de diaboliser l’IA, mais de reconnaître les vulnérabilités différentielles.De la même façon que certains médicaments ou substances comportent plus de risques chez les personnes atteintes de troubles psychotiques, certaines formes d’interaction avec l’IA peuvent nécessiter une prudence particulière.Les cliniciens commencent à rencontrer des contenus liés à l’IA dans les délires, mais peu de lignes directrices cliniques abordent la façon de les évaluer ou de les prendre en charge. Devrait-on interroger l’usage de l’IAG comme on interroge la consommation de substances? Les systèmes d’IA devraient-ils détecter et désamorcer les idées psychotiques plutôt que de les entretenir?Des questions éthiques se posent également pour les développeurs. Si un système d’IA se présente comme empathique et autoritaire, a-t-il un devoir de protection? Et qui est responsable lorsqu’un système renforce involontairement un délire?À lire aussi: 5 trucs pour les médecins confrontés à des patients qui utilisent ChatGPTFaire le pont entre conception de l’IA et soins en santé mentaleL’IA est là pour rester. L’enjeu consiste maintenant à intégrer l’expertise en santé mentale dans la conception des systèmes, à développer une littératie clinique autour des expériences liées à l’IA et à s’assurer que les utilisateurs vulnérables ne soient pas exposés à des préjudices involontaires.Cela nécessitera une collaboration entre cliniciens, chercheurs, éthiciens et technologues. Cela exigera aussi de résister à l’emballement médiatique - qu’il soit utopique ou dystopique - au profit d’un débat fondé sur les données probantes.À mesure que l’IA devient plus humaine en apparence, la question devient: comment protéger les personnes les plus vulnérables de son influence?La psychose s’est toujours adaptée aux outils culturels de son époque. L’IA n’est que le plus récent miroir à travers lequel l’esprit tente de donner sens à lui-même. Notre responsabilité collective est de veiller à ce que ce miroir ne déforme pas la réalité pour ceux qui sont le moins en mesure de la corriger.Cet article est republié à partir de The Conversation sous licence Creative Commons.

Des signalements de «psychose liée à l’IA» émergent: ce qu’en pense un psychiatre

Pour accéder au contenu, connectez-vous ou créez un compte gratuit.

Catégories connexes