Le système de santé mentale fait face à un problème de lacunes, sans manquer de sensibilisation. La communauté clinique est bien consciente des pénuries, des longues listes d’attente et des obstacles financiers. Toutefois, le véritable écart réside dans le temps qui s’écoule entre la reconnaissance par les patients de leur besoin de soutien et le moment où ils y accèdent réellement.
Dans cet intervalle, un nombre croissant de personnes se tournent vers ChatGPT, un modèle de langage d’intelligence artificielle. L’utilisation de ChatGPT en tant que thérapeute n’est pas une simple curiosité mais une tendance croissante, motivée par un manque d’alternatives plutôt que par une préférence pour l’IA. Quand le prochain rendez-vous est prévu dans trois semaines, que le coût d’une séance s’élève à 150 $ ou plus, et que la stigmatisation rend difficile l’appel téléphonique, une interface textuelle réactive et dénuée de jugements devient un substitut attrayant. Les dirigeants du secteur de la santé qui perçoivent cela comme une curiosité des consommateurs passent à côté d’un signal important qui mérite une attention sérieuse.
Le problème de l’IA généraliste dans un contexte émotionnel
Pour saisir cette problématique, il est essentiel de mieux comprendre ce qu’est l’IA à usage général et ses limites. Conçu pour s’adapter à divers domaines tels que la rédaction, le codage, et le service client, ChatGPT présente une polyvalence utile dans de nombreux contextes. Cependant, il n’a pas été créé avec la santé mentale comme principe directrice. Ainsi, il lui manque un cadre clinique pour reconnaître les distorsions cognitives, gérer l’escalade des problèmes ou établir quand une réponse peut être plus nuisible que bénéfique.
Cette approche soulève des risques particuliers. Les limites de l’IA à usage général dans un contexte de soutien émotionnel ne résident pas tant dans les réponses qu’elle propose, mais plutôt dans sa capacité à détecter les besoins réels des utilisateurs. Une IA générale peut produire une réponse empathique sans avoir les outils pour évaluer si celle-ci est cliniquement appropriée. Ce modèle peut interagir avec une personne en détresse aiguë de la même manière qu’il le ferait avec quelqu’un planifiant un dîner—avec réactivité, mais sans fondement clinique.
Pour plusieurs cas d’utilisation, cela peut être acceptable. Toutefois, dans le domaine du soutien émotionnel, il en ressort un problème structurel.
Ce que signifie réellement « construit à cet effet » et son importance pour les payeurs et systèmes
La solution ne consiste pas à interdire aux gens de chercher de l’aide entre les rendez-vous. Au contraire, il est crucial de leur garantir qu’ils utilisent des outils conçus spécifiquement à cette fin.
Développer des outils d’IA en toute sécurité pour le soutien émotionnel nécessite un cadre différent de celui de l’IA à usage général. La distinction commence par l’intention de créer un outil de bien-être mental qui vise un seul objectif : aider une personne à se réguler, à réfléchir et à rester ancrée jusqu’à ce qu’elle puisse accéder aux soins humains.
En pratique, cette différence de conception se manifeste de plusieurs manières.
Les garde-corps cliniques sont fondamentaux. Il ne s’agit pas seulement de filtres de contenu sur un modèle général. Ces garde-corps consistent en des structures comportementales ancrées dans des approches comme la thérapie cognitivo-comportementale (TCC) ou la thérapie dialectique comportementale (TDC), qui orientent les conversations. Un système spécifiquement conçu doit savoir quand une conversation nécessite d’être redirigée, désamorcée ou transférée à un professionnel humain.
La détection de crise est une fonctionnalité tout aussi critique. Alors qu’une IA générale pourrait suggérer des ressources de crise, une plateforme dédiée au bien-être mental intègre la détection des crises dès le modèle d’interaction, identifiant les signes de détresse aiguë en temps réel et adaptant la réponse sans attendre que l’utilisateur en fasse la demande.
La modalité d’interaction revêt également une importance souvent méconnue. Les humains réagissent de manière neurobiologique aux visages. La différence entre une interaction textuelle et une présence d’IA en face-à-face ne réside pas uniquement dans l’apparence. Voir un visage influence la perception de l’interaction, la rendant plus chaleureuse et humaine, par opposition à une simple interaction avec un moteur de recherche. Les plateformes qui intègrent une présence visuelle représentent un choix thérapeutique, basé sur la manière dont le système nerveux humain gère les connexions.
Certains outils se construisent maintenant autour de cette philosophie de conception, en intégrant des interactions en face-à-face, des protocoles cliniques et un système de détection des crises.
Le bon cadre : thérapie par l’IA ou thérapeute humain ne devrait pas être le débat
Le débat entre l’utilisation de l’IA pour la thérapie et l’intervention humaine désoriente souvent. Cela masque la meilleure manière d’exploiter ces outils.
Les outils de bien-être mental conçus spécifiquement ne doivent pas être considérés comme des remplaçants des thérapeutes, mais plutôt comme un soutien pour les besoins qui se présentent avant qu’un patient n’arrive au cabinet d’un thérapeute ou entre deux séances. L’objectif n’est pas de remplacer les professionnels du secteur, mais de garantir un soutien continu pour ceux qui n’en bénéficient pas actuellement.
Pour les systèmes de santé, les assureurs, et les employeurs établissant des stratégies de santé comportementale, la question fondamentale est celle de l’impact que l’IA peut avoir pour réduire le nombre de personnes exclues du système de soins en raison de longues attentes, de coûts prohibitifs ou d’obstacles invisibles.
Des études suggèrent que cela est possible—lorsque les outils sont conçus spécifiquement, avec une architecture clinique adéquate.
Critères de sélection des outils pour les responsables de la santé
Il est essentiel de noter que tous les outils d’IA pour le bien-être mental ne répondent pas aux exigences nécessaires. À mesure que le marché s’élargit, la responsabilité de l’évaluation pèse de plus en plus sur les systèmes de santé et les parties prenantes concernées par l’intégration, la recommandation ou le financement de ces outils.
Les questions à posent doivent être structurelles : la plateforme a-t-elle des garde-corps cliniques documentées ou se limite-t-elle à des filtres de sécurité génériques ? Existe-t-il un protocole de crise formel avec des voies d’escalade bien établies ? Le système a-t-il été conçu pour atteindre des résultats thérapeutiques spécifiques ou a-t-il été adapté d’un modèle général ?
Les patients qui se tournent vers ChatGPT à des heures tardives ne le font pas seulement par préférence pour l’IA, mais parce que le système de soins ne leur a pas encore fourni une meilleure alternative. Ce n’est pas un problème de consommation, mais plutôt un enjeu de conception dans les soins de santé, avec des solutions possibles si l’industrie accepte de les envisager.
Photo : SIphotographie, Getty Images
