L'IA comme substitut de thérapeute: la Californie veut des règles plus strictes

L’intelligence artificielle s’infiltre déjà dans presque tous les aspects de notre vie… et maintenant, elle s’immisce même dans la psychothérapie. De plus en plus de personnes se tournent vers des chatbots comme ChatGPT pour trouver du réconfort lorsqu’elles sont émotionnellement affaiblies ou pour obtenir des conseils algorithmiques en période de crise. C’est précisément cette tendance que la Californie souhaite encadrer. Un nouveau projet de loi, actuellement en discussion au Parlement de cet État américain, vise à interdire quasi officiellement aux chatbots d’IA de se parer du titre de « thérapeute ». L’objectif? Fixer des limites claires avant que des conseils non qualifiés – voire dangereux – ne causent des dommages.
Quand l’algorithme devient un confident
Selon ce projet de loi, qui doit encore passer par le Sénat avant d’être soumis à l’Assemblée, les systèmes d’IA ne seraient plus autorisés à proposer des services de conseil psychologique. Cette mesure part d’une inquiétude légitime: les applications d’IA non régulées pourraient fournir des recommandations erronées ou nuisibles, d’autant plus que de nombreux utilisateurs y ont recours sans supervision professionnelle. Soit par peur d’un véritable entretien thérapeutique, soit parce que cette « pastorale numérique » est moins chère et accessible 24 heures sur 24.
Mais une interdiction totale est-elle vraiment la solution? Ne faudrait-il pas plutôt établir des règles claires pour exploiter le potentiel de cette technologie sans ignorer ses risques?
Pourquoi la Californie met les freins
La Californie n’est pas la seule à réfléchir à cette question. D’autres États américains ainsi que l’UE débattent également de la régulation de l’IA dans le domaine de la santé mentale. Le projet de loi californien (Assembly Bill 2231, pour être précis) cherche à ce que les plateformes basées sur l’IA soient soit classées comme des services médicaux, soit assorties d’avertissements explicites. Il s’agit aussi de garantir que les utilisateurs sachent qu’ils s’adressent à une machine et non à un humain.
Un point central concerne la transparence: l’IA doit clairement indiquer qu’elle n’est pas une thérapeute réelle, mais qu’elle génère des réponses de manière algorithmique. Des mécanismes devraient également être introduits pour détecter et bloquer les conseils dangereux, comme des recommandations de passage à l’acte.
Une loi qui ne fait pas l’unanimité
Si l’initiative semble louable en théorie, elle suscite aussi des critiques. Certains craignent qu’un interdit trop strict ne bride l’innovation. L’IA pourrait en effet devenir un complément précieux à la psychothérapie classique: un premier niveau de conseil accessible, une disponibilité 24h/24, ou un soutien administratif pour les thérapeutes. Une interdiction totale freinerait ces avancées avant qu’elles ne prennent leur élan.
D’autres soulignent le manque de précision du texte. Où se situe la frontiè



re entre « soutien émotionnel » et « service de conseil psychologique »? Suffit-il qu’une IA console, ou faut-il considérer comme thérapeutique toute réponse qui dépasse la simple écoute? Sans définitions claires, la loi pourrait engendrer une insécurité juridique.
L’IA dans la santé mentale: bénédiction ou malédiction?
Cette discussion illustre un dilemme classique. D’un côté, l’espoir que l’IA démocratise l’accès aux soins en santé mentale. Dans les pays où les listes d’attente pour une thérapie sont longues ou dans les régions souffrant d’un manque de professionnels, les outils d’IA pourraient servir de pont. Beaucoup d’utilisateurs apprécient justement ces plateformes comme premier recours – pour s’essayer à une démarche thérapeutique ou obtenir une aide rapide en période de crise.
De l’autre côté, les craintes sont fondées. L’IA peut détecter des schémas dans les textes et générer des réponses apparemment cohérentes, mais elle manque d’empathie réelle, d’expérience clinique et de responsabilité éthique. Une réponse inadaptée en pleine détresse psychologique peut avoir des conséquences dramatiques. Pire encore: les utilisateurs pourraient se fier à tort à ces outils et retarder le recours à une aide professionnelle nécessaire.
Existe-t-il un juste milieu?
Plutôt qu’une interdiction radicale, des experts plaident pour une solution équilibrée: une régulation intelligente. Voici les pistes proposées:
1. Certification et homologation: Les systèmes d’IA proposant un soutien psychologique devraient prouver leur sécurité et leur efficacité, à l’image des médicaments ou des dispositifs médicaux.
2. Identification transparente: Les utilisateurs doivent pouvoir distinguer clairement s’ils interagissent avec une IA ou un professionnel humain.
3. Directives éthiques: Des règles précises sur ce que l’IA peut ou ne peut pas faire en santé mentale – par exemple, interdire certains conseils (comme l’arrêt brutal de médicaments).
4. Supervision humaine: L’IA ne devrait jamais établir de diagnostics ou recommander des traitements de manière autonome, mais uniquement servir d’outil d’assistance aux professionnels.
Mon avis: l’innovation oui, mais avec responsabilité
L’initiative de la Californie est une étape nécessaire pour limiter les risques liés à l’IA dans des domaines sensibles comme la santé mentale. Cependant, une interdiction totale serait une mauvaise solution. À la place, il faut un cadre réglementaire qui encourage l’innovation tout en protégeant les utilisateurs.
Le défi majeur consistera à trouver l’équilibre: l’IA peut être un outil puissant, mais elle ne remplacera jamais la dimension humaine de la thérapie. Tant que cela est clairement communiqué, les solutions basées sur l’IA peuvent représenter un complément utile. En revanche, une interdiction aveugle serait un recul qui priverait des millions de personnes souffrant de troubles psychiques d’aides dont elles ont désespérément besoin.