Regards d'experts

IA et psychologie clinique : les risques réels, et comment les encadrer

Hallucination, biais, perte de vigilance, secret professionnel, hébergement des données, consentement, responsabilité : un état des lieux honnête des risques de l'IA en psychologie clinique, sources d'autorité à l'appui.

Mounir Fassouane•4 août 2026•7 min de lecture

Clinicien relisant un document avant validation

Les risques de l'IA en psychologie clinique sont de sept ordres : l'invention de contenu clinique par le modèle, les biais reproduits ou amplifiés, la perte de vigilance du clinicien, l'atteinte au secret professionnel, l'hébergement des données de santé hors d'un cadre certifié, le défaut d'information du patient, et une responsabilité professionnelle qui reste entièrement celle du praticien quoi qu'il arrive. Aucun de ces risques n'est théorique, et aucun n'est éliminé par un outil, quel qu'il soit.

J'édite un outil dans ce champ. Cet article aurait donc pu être un argumentaire. J'ai préféré écrire ce que je crois vrai, y compris quand cela ne m'arrange pas. Je ne suis ni psychologue ni juriste : je partage une lecture des recommandations publiques et des bonnes pratiques, pas un avis juridique ni clinique.

Une précision de cadre, avant tout le reste

Pllume est un outil d'aide à la documentation. Il transcrit et met en forme ce qui a été dit, pour que le praticien relise, corrige et valide. Il ne pose aucun diagnostic, ne suggère aucune conduite thérapeutique, ne calcule aucun score d'aide à la décision, et n'est ni un dispositif médical ni un logiciel de santé au sens réglementaire.

Cette distinction n'est pas un habillage juridique, elle détermine la nature des risques. Un outil qui écrit ce qui a été dit ne fait pas courir les mêmes dangers qu'un outil qui suggère un diagnostic. Elle ne dispense en revanche d'aucun des risques listés ci-dessous : elle les circonscrit.

Risque 1 : l'invention de contenu clinique

Un modèle de génération de texte produit la suite de mots la plus probable, pas la plus vraie. Il peut donc écrire, avec assurance et dans un français impeccable, une posologie jamais prononcée, un antécédent glissé par analogie ou une date reconstruite. C'est ce qu'on appelle une hallucination, et le danger tient moins à sa fréquence qu'à sa forme : une erreur bien écrite se détecte moins bien qu'une erreur maladroite.

Un texte faux mais fluide inspire plus confiance qu'une note exacte mais laborieuse. C'est le risque le plus insidieux de l'IA en clinique, et le seul remède fiable reste la relecture par un professionnel.

Nous avons détaillé ce mécanisme et ses parades dans notre article sur l'hallucination d'une IA clinique. La HAS, dans ses premières clefs d'usage de l'IA générative en santé, insiste sur le même point : la vérification humaine des contenus produits n'est pas une option.

Risque 2 : les biais

Un modèle apprend sur des corpus. Si ces corpus surreprésentent certaines populations, certains registres de langue ou certaines formulations cliniques, la restitution en portera la trace. En santé mentale, l'enjeu est particulièrement sensible : la façon dont un vécu est reformulé n'est jamais neutre, et un lissage stylistique peut effacer précisément ce qui faisait la singularité du propos du patient.

Le risque pratique n'est pas tant l'erreur factuelle que l'appauvrissement : une note lisse, générique, où toutes les séances finissent par se ressembler.

Risque 3 : la dépendance et la perte de vigilance

C'est le risque dont on parle le moins et qui me paraît le plus sérieux à long terme. Quand un premier jet arrive déjà écrit, la tentation de valider vite est réelle, surtout en fin de journée. On appelle cela le biais d'automatisation : la confiance accordée à une machine augmente à mesure qu'elle a eu raison les fois précédentes, et la vigilance baisse exactement quand elle serait la plus utile.

L'Ordre des psychologues du Québec, qui a publié en 2025 un dossier thématique sur la psychologie assistée par l'intelligence artificielle, insiste sur ce point : l'IA doit rester un appui au jugement clinique, jamais un substitut. Aucun garde-fou technique ne compense un clinicien qui a cessé de lire.

Risque 4 : l'appauvrissement de la pensée clinique

Écrire une note n'est pas seulement consigner. C'est aussi le moment où le clinicien reprend la séance, trie, hiérarchise, formule des hypothèses. Une partie du travail de pensée se fait dans l'acte d'écrire. Si l'écriture est intégralement déléguée, ce temps de reprise disparaît.

Je ne crois pas qu'il faille en conclure qu'il faut tout rédiger à la main. Je crois qu'il faut le savoir, et préserver délibérément un moment de relecture active, où l'on reprend la note en clinicien et non en correcteur orthographique.

Risque 5 : le secret professionnel et la confidentialité

Le contenu d'une séance de psychothérapie est couvert par le secret professionnel. Le transmettre à un service tiers sans cadre est un risque en soi, indépendamment de la qualité du service. Deux questions se posent avant toute utilisation : que devient le contenu envoyé, et sert-il à entraîner des modèles ? Un outil grand public non contractualisé ne permet pas de répondre sérieusement à ces deux questions. Nous traitons ce point dans notre page sur le secret professionnel et l'IA.

Risque 6 : l'hébergement des données de santé

En France, l'hébergement de données de santé à caractère personnel pour le compte de tiers impose depuis 2018 une certification HDS, délivrée par des organismes accrédités par le COFRAC, sur la base d'un référentiel de l'Agence du Numérique en Santé. La liste officielle des hébergeurs certifiés est publiée par l'ANS, et elle est consultable avant toute signature de contrat.

Concrètement : un outil qui traite le contenu de vos séances doit pouvoir vous dire où sont hébergées les données, chez quel hébergeur, et sous quelle certification. Si la réponse est floue, elle est mauvaise. Nous détaillons ce cadre dans notre page sur l'hébergement des données de santé en France.

Risque 7 : le consentement et la responsabilité

Le RGPD qualifie les données de santé de données sensibles et impose une base légale explicite ainsi qu'une information claire des personnes. Enregistrer une séance ou en confier le contenu à un outil suppose donc d'informer le patient et de recueillir son accord, dans des termes qu'il comprend. Notre guide du consentement du patient à l'IA propose une formulation concrète.

Quant à la responsabilité, elle ne se partage pas avec un logiciel. La note qui figure au dossier engage celui qui la signe. Aucun éditeur, y compris nous, ne peut en assumer une part.

Ce que nous faisons, et ce que cela ne règle pas

Quatre choix de conception réduisent ces risques chez Pllume. La validation humaine est systématique : aucune note n'existe tant que le praticien ne l'a pas approuvée. Les données identifiantes sont anonymisées côté navigateur avant tout envoi à un modèle. L'ensemble du traitement, transcription vocale et génération de texte, se fait en France chez un hébergeur certifié HDS. Et le consentement du patient est intégré au parcours, pas relégué à une case à cocher.

Ce que cela ne règle pas, il faut le dire aussi. Un modèle peut toujours se tromper : nous rendons l'erreur rare et visible, pas impossible. L'anonymisation réduit l'exposition, elle ne la supprime pas dans un récit clinique où le contexte peut rester identifiant. Le biais d'automatisation dépend du praticien, pas de nous. Et la responsabilité professionnelle reste entière.

Ce que j'en retiens

La bonne question n'est pas de savoir si l'IA a sa place en psychologie clinique. Elle y est déjà, souvent par des outils grand public qu'aucun cadre ne protège. La question est de savoir sous quelles conditions : un périmètre d'usage restreint et assumé, un hébergement vérifiable, un patient informé, et un clinicien qui lit ce qu'il signe.

Si ces conditions vous paraissent les bonnes, vous pouvez demander un accès et juger sur une consultation réelle.

Sources et références

Pour toute question relative à vos données, notre contact RGPD est contact@pllume.com.

Mounir Fassouane

Fondateur de Pllume

Mounir a imaginé Pllume pour sa compagne, professionnelle de la santé mentale. Chaque soir, il la voyait reprendre ses notes après une journée déjà longue, le travail se prolongeant bien après la dernière consultation. Il a voulu lui rendre ces heures, alléger sa charge mentale et lui redonner du temps en famille. C'est de cette proximité quotidienne avec le métier qu'il écrit ici. La charge documentaire, l'isolement du libéral, les exigences de conformité : tout ce qui éloigne le praticien de l'essentiel, le soin.