IA en psychologie clinique : risques et garde-fous

L'IA en psychologie clinique expose à sept familles de risques : l'invention de contenu, les biais de restitution, la perte de vigilance, l'appauvrissement de la pensée clinique, l'atteinte au secret professionnel, l'hébergement hors cadre certifié et le défaut d'information du patient. Aucune n'est supprimée par un outil. Quatre se réduisent par la conception, trois par la pratique, et la responsabilité reste entière.

En bref

• •Héberger des données de santé sans certification HDS est une infraction pénale en France depuis 2018, au titre de l'article L. 1111-8 du code de la santé publique.
• •Le risque le plus insidieux n'est pas la fréquence de l'erreur, c'est sa forme : une affirmation fausse mais bien écrite se repère moins bien qu'une note maladroite mais exacte.
• •Quatre risques sur sept se traitent par la conception de l'outil. Les trois autres dépendent de ce que le clinicien fait de l'outil, et aucun éditeur ne peut s'y substituer.
• •La responsabilité de la note ne se partage pas : elle engage celui qui la signe, quel que soit le logiciel utilisé.

J'édite un outil dans ce champ. Cet article aurait donc pu être un argumentaire. J'ai préféré écrire ce que je crois vrai, y compris quand cela ne m'arrange pas. Je ne suis ni psychologue ni juriste : ce texte est une synthèse informative des recommandations publiques et des bonnes pratiques, il ne remplace ni une formation accréditée, ni un avis clinique, ni un avis juridique.

Un outil qui documente ne fait pas courir les mêmes risques qu'un outil qui décide

La première question à poser à un outil n'est pas ce qu'il sait faire, c'est ce qu'il s'interdit de faire. La réponse détermine la nature des risques encourus, et donc les garde-fous pertinents.

Pllume est un outil d'aide à la documentation. Il transcrit et met en forme ce qui a été dit, pour que le praticien relise, corrige et valide. Il ne pose aucun diagnostic, ne suggère aucune conduite thérapeutique, ne calcule aucun score d'aide à la décision, et n'est ni un dispositif médical ni un logiciel de santé au sens réglementaire.

Cette distinction n'est pas un habillage juridique. Un outil qui écrit ce qui a été dit et un outil qui suggère une conduite à tenir n'exposent pas aux mêmes dangers, et il faut savoir dans quelle catégorie se range celui qu'on installe. Le glissement se produit d'ailleurs déjà du côté des patients : selon l'enquête menée pour le groupe VYV et publiée par la CNIL en 2026 auprès de 3 800 jeunes de 11 à 25 ans dans quatre pays, 86 % des jeunes Français déclarent utiliser une intelligence artificielle conversationnelle, 48 % pour aborder des sujets personnels ou intimes, et 33 % la considèrent comme un « psychologue » dans certaines situations, proportion qui monte à 46 % chez les jeunes déclarant de l'anxiété. Pour Ludovic Samalin, psychiatre au CHU de Clermont-Ferrand, ces outils n'ont pas été conçus pour cet usage et peuvent donc donner des réponses inadaptées (France 24, 21 décembre 2025). Le guide conjoint de la Haute Autorité de santé et de la CNIL sur le bon usage des systèmes d'intelligence artificielle en contexte de soins, dont la version soumise à consultation publique est datée du 16 février 2026, couvre l'ensemble des systèmes ayant un impact direct sur la prise en charge, quelle que soit leur qualification réglementaire. Autrement dit : ne pas être un dispositif médical ne dispense de rien, cela circonscrit.

Le modèle peut écrire une posologie jamais prononcée, et l'erreur se voit d'autant moins qu'elle est bien écrite

Un modèle de génération de texte produit la suite de mots la plus probable, pas la plus vraie. Il peut donc écrire, avec assurance et dans un français impeccable, une posologie jamais prononcée, un antécédent glissé par analogie ou une date reconstruite. C'est ce qu'on appelle une hallucination.

Définition. Une hallucination est une affirmation produite par un modèle de langage, formulée avec la même assurance qu'une affirmation exacte, mais qui ne correspond à aucune source dans ce qui lui a été fourni.

Le danger tient moins à la fréquence qu'à la forme. Une erreur bien écrite se détecte moins bien qu'une erreur maladroite, parce que la fluidité du texte sert d'indice de fiabilité alors qu'elle n'en est pas un.

Un texte faux mais fluide inspire plus confiance qu'une note exacte mais laborieuse. C'est le risque le plus insidieux de l'IA en clinique, et le seul remède fiable reste la relecture par un professionnel.

Trois choix de conception réduisent la fréquence et la gravité de ces dérapages, sans jamais les rendre impossibles. La spécialisation d'abord : un outil cadré sur la santé mentale invente moins qu'un généraliste sommé de tout faire, parce que le champ des suites probables est plus resserré. Le fait de coller au dit ensuite : un bon outil reformule ce qui a été prononcé, il ne complète pas les silences avec du vraisemblable. Les vérifications automatiques enfin, sur les points les plus sensibles comme les mentions de traitement, qui signalent une incohérence au lieu de la laisser passer.

Aucun de ces mécanismes ne supprime l'erreur. Ensemble, ils la rendent rare et visible, ce qui est le seul objectif atteignable et honnête. Le corollaire est qu'une note se lit comme un brouillon à valider, jamais comme un compte rendu déjà vrai, exactement comme on relirait la note d'un interne. Ce que cela implique pour la solidité du dossier est détaillé dans notre article sur ce qu'une note doit contenir pour tenir en cas de litige.

Les biais du corpus se manifestent moins en erreurs factuelles qu'en appauvrissement des notes

Un modèle apprend sur des corpus. Si ces corpus surreprésentent certaines populations, certains registres de langue ou certaines formulations cliniques, la restitution en portera la trace.

En santé mentale, l'enjeu est particulier : la façon dont un vécu est reformulé n'est jamais neutre, et un lissage stylistique peut effacer précisément ce qui faisait la singularité du propos du patient. Le risque pratique n'est donc pas tant l'erreur factuelle, qui se repère, que l'appauvrissement, qui ne se repère pas : des notes lisses, génériques, où toutes les séances finissent par se ressembler.

Ce risque ne se traite pas par la conception. Il se traite en relisant avec une question précise en tête : qu'est-ce qui, dans cette note, ne ressemble pas à ce patient ?

Le biais d'automatisation fait baisser la vigilance au moment où elle sert le plus

C'est le risque dont on parle le moins et qui me paraît le plus sérieux à long terme. Quand un premier jet arrive déjà écrit, la tentation de valider vite est réelle, surtout en fin de journée.

Définition. Le biais d'automatisation désigne la tendance à accorder à un système automatisé une confiance croissante à mesure qu'il a eu raison les fois précédentes, jusqu'à cesser de vérifier ses productions.

La mécanique est perverse : la vigilance baisse exactement à mesure que l'outil devient fiable, donc elle est au plus bas au moment où une erreur rare passerait inaperçue. L'Ordre des psychologues du Québec, dans son dossier consacré à la psychologie assistée par l'intelligence artificielle publié en septembre 2025, insiste sur le même point : ces outils doivent rester un appui au jugement clinique et non un substitut, le jugement clinique reposant sur des compétences que le modèle ne reproduit pas.

Aucun garde-fou technique ne compense un clinicien qui a cessé de lire. C'est la limite structurelle de tout ce qui précède.

Déléguer l'écriture supprime le temps de reprise où se fait une partie de la pensée clinique

Écrire une note n'est pas seulement consigner. C'est aussi le moment où le clinicien reprend la séance, trie, hiérarchise, formule des hypothèses. Une partie du travail de pensée se fait dans l'acte d'écrire, et si l'écriture est intégralement déléguée, ce temps de reprise disparaît avec elle.

Je ne crois pas qu'il faille en conclure qu'il faut tout rédiger à la main. Je crois qu'il faut le savoir, et préserver délibérément un moment de relecture active, où l'on reprend la note en clinicien et non en correcteur orthographique. La différence entre les deux postures se mesure à une chose : dans la première, on ajoute quelque chose à la note.

Le secret professionnel s'oppose à l'envoi du contenu d'une séance à un service non contractualisé

Le contenu d'une séance de psychothérapie est couvert par le secret professionnel. Le transmettre à un service tiers sans cadre est un risque en soi, indépendamment de la qualité technique du service.

Deux questions se posent avant toute utilisation, et elles suffisent à trancher : que devient le contenu envoyé, et sert-il à entraîner des modèles ? Un outil grand public non contractualisé ne permet de répondre sérieusement à aucune des deux. Le cadre exact, et ce qu'il autorise, sont détaillés dans notre page sur le secret professionnel face aux outils d'IA.

Héberger des données de santé sans certification HDS est une infraction pénale depuis 2018

C'est le point où le cadre français est le plus net, et le plus facile à vérifier avant de signer.

En France, l'hébergement de données de santé à caractère personnel pour le compte de tiers impose depuis 2018 une certification HDS. L'hébergement sans cette certification constitue une infraction pénale au titre de l'article L. 1111-8 du code de la santé publique. La certification est délivrée par des organismes accrédités par le COFRAC, sur la base d'un référentiel piloté par l'Agence du Numérique en Santé et adossé à la norme ISO/CEI 27001. Elle est valable trois ans, sous réserve d'un audit annuel de surveillance, et le référentiel a évolué vers une version 2.0 comportant des exigences de souveraineté, les hébergeurs certifiés sous l'ancien référentiel ayant jusqu'à mai 2026 pour s'y conformer.

Concrètement, un outil qui traite le contenu de vos séances doit pouvoir vous dire où sont hébergées les données, chez quel hébergeur, et sous quelle certification. Si la réponse est floue, elle est mauvaise. La liste des hébergeurs certifiés est publique et consultable avant toute signature. Nous détaillons ce cadre dans notre page sur l'hébergement des données de santé en France, et ses implications de souveraineté dans notre article sur ce que devient une donnée de santé mentale confiée à un prestataire.

Le RGPD impose d'informer le patient, et la responsabilité de la note reste entière chez le signataire

Le RGPD qualifie les données de santé de données sensibles et impose une base légale explicite ainsi qu'une information claire des personnes concernées. Enregistrer une séance ou en confier le contenu à un outil suppose donc d'informer le patient et de recueillir son accord, dans des termes qu'il comprend. Notre guide du consentement du patient à l'IA en propose une formulation concrète.

Cette exigence d'information n'est pas seulement une lecture du RGPD. Dans son rapport 25-12, « Intelligence artificielle et responsabilité médicale. Quels enjeux ? », adopté le 7 octobre 2025 par 81 voix contre 2 et 5 abstentions, l'Académie nationale de médecine recommande d'informer le patient de l'usage d'un système d'intelligence artificielle et d'obtenir son consentement. Le Collège des médecins du Québec, dans sa fiche consacrée aux scribes assistés par IA publiée en 2025, va dans le même sens et ajoute deux points concrets : le praticien reste responsable de la qualité et du contenu de la note produite, qu'il doit réviser et signer, et le collège recommande de mentionner dans la note l'outil utilisé.

Quant à la responsabilité, elle ne se partage pas avec un logiciel. La note qui figure au dossier engage celui qui la signe. Aucun éditeur, y compris nous, ne peut en assumer une part, et un éditeur qui le laisserait entendre vous exposerait au lieu de vous protéger.

Les sept risques et le levier qui les réduit

Version texte de l'infographie ci-dessus.

Analyse Pllume, août 2026, à partir du guide HAS et CNIL cité plus haut, du dossier de l'Ordre des psychologues du Québec et du cadre HDS de l'Agence du Numérique en Santé.

Ce que nous faisons chez Pllume, et les quatre choses que cela ne règle pas

Quatre choix de conception traitent la colonne de gauche du tableau. La validation humaine est systématique : aucune note n'existe tant que le praticien ne l'a pas approuvée. Les données identifiantes sont anonymisées côté navigateur avant tout envoi à un modèle. L'ensemble du traitement, transcription vocale et génération de texte, se fait en France chez un hébergeur certifié HDS. Et le consentement du patient est intégré au parcours de soin.

Ce que cela ne règle pas, il faut le dire aussi, parce que c'est la partie qu'un argumentaire commercial omettrait.

Un modèle peut toujours se tromper : nous rendons l'erreur rare et visible, pas impossible, et quiconque promet l'inverse promet une chose qu'aucune technologie disponible ne permet. L'anonymisation réduit l'exposition, elle ne la supprime pas dans un récit clinique où le contexte peut rester identifiant même sans nom propre. Le biais d'automatisation dépend entièrement du praticien, et nous n'avons aucun moyen de savoir si vous lisez vraiment ce que vous validez. La responsabilité professionnelle, enfin, reste entière, et c'est bien ainsi : un dispositif qui la diluerait ne protégerait personne.

Il y a une objection sérieuse à laquelle je n'ai pas de réponse complète. Si l'outil est bon, il devient invisible, et un outil invisible ne rappelle pas au clinicien qu'il faut le surveiller. La qualité et la vigilance jouent l'une contre l'autre, et je ne connais pas de solution technique à ce problème. Ce que nous pouvons faire, c'est ne pas prétendre qu'il n'existe pas.

Sous quelles conditions, plutôt que oui ou non

La question n'est pas de savoir si l'IA a sa place en psychologie clinique. Elle y est déjà, souvent par des outils grand public qu'aucun cadre ne protège, ce qui est de loin la configuration la plus risquée. La question utile est celle des conditions : un périmètre d'usage restreint et assumé, un hébergement vérifiable, un patient informé, et un clinicien qui lit ce qu'il signe.

Si vous en êtes à comparer des outils sur ces critères, notre panorama des scribes IA en santé mentale détaille la grille et les acteurs du marché.

Questions fréquentes

Une IA clinique peut-elle halluciner ?

Oui. Un modèle de langage produit la suite de mots la plus probable, pas la plus vraie, et peut donc affirmer avec assurance une posologie ou un antécédent jamais prononcés. Le risque ne se supprime pas, il se rend rare et visible par la spécialisation de l'outil, le fait de coller au dit, et la validation humaine systématique.

Peut-on faire confiance à une note rédigée par une IA ?

Pas comme à un compte rendu déjà vrai. Une note produite par un outil se lit comme un brouillon à valider. La confiance porte sur le dispositif, validation obligatoire, hébergement certifié, périmètre restreint, jamais sur le texte pris isolément.

Utiliser une IA en séance est-il conforme au secret professionnel ?

À condition de savoir ce que devient le contenu transmis et s'il sert à entraîner des modèles. Un service grand public non contractualisé ne permet pas de répondre à ces deux questions, donc ne permet pas de conclure à la conformité.

Faut-il l'accord du patient pour utiliser un outil d'IA en consultation ?

Oui. Le RGPD qualifie les données de santé de données sensibles et impose une base légale explicite et une information claire. Le patient doit être informé de l'usage de l'outil et donner son accord, dans des termes qu'il comprend.

Qui est responsable si la note contient une erreur ?

Le praticien qui la signe. La responsabilité professionnelle ne se partage pas avec un logiciel, et aucun éditeur ne peut en assumer une part, quelles que soient ses garanties techniques.

L'IA remplace-t-elle le jugement clinique du psychologue ?

Non, et les instances professionnelles sont explicites sur ce point. Ces outils sont des appuis à la documentation ou au jugement, jamais des substituts. Le jugement clinique repose sur des compétences que le modèle ne reproduit pas.

Sources et références

• •Guide HAS et CNIL, Accompagner le bon usage des systèmes d'intelligence artificielle en contexte de soins, version du 16 février 2026 soumise à consultation publique
• •HAS, Premières clefs d'usage de l'IA générative en santé
• •CNIL, IA et santé : développer et évaluer des systèmes d'IA en conformité avec la réglementation
• •Agence du Numérique en Santé, certification des hébergeurs de données de santé
• •Agence du Numérique en Santé, évolution des référentiels de certification et d'accréditation HDS
• •Académie nationale de médecine, rapport 25-12, Intelligence artificielle et responsabilité médicale, adopté le 7 octobre 2025 (source officielle : information du patient et recueil du consentement recommandés)
• •Collège des médecins du Québec, fiche Scribe et intelligence artificielle, 2025 (source officielle : responsabilité du praticien sur la note produite, révision et signature, mention de l'outil utilisé)
• •CNIL et groupe VYV, IA conversationnelle et santé mentale des jeunes, enquête européenne menée en janvier 2026 (enquête déclarative, 3 800 jeunes de 11 à 25 ans dans quatre pays)
• •France 24, entretien avec Ludovic Samalin, psychiatre au CHU de Clermont-Ferrand, 21 décembre 2025 (page inaccessible à la relecture, réponse HTTP 403 le 9 août 2026 ; les propos sont restitués en position rapportée, faute d'avoir pu relire le verbatim à la source. Statut : rapporté par la presse)
• •Ordre des psychologues du Québec, dossier La psychologie assistée par l'intelligence artificielle, septembre 2025
• •Ordre des psychologues du Québec, risques de l'IA dans la pratique clinique et stratégies d'atténuation

Sources consultées le 8 août 2026. Pour toute question relative à vos données, notre contact RGPD est contact@pllume.com.

Si les conditions décrites ici vous paraissent les bonnes, vous pouvez demander un accès et juger sur une consultation réelle.