Peut-on faire confiance à une note rédigée par une IA ? La question de l'hallucination

La question revient à chaque démonstration, et elle est la bonne : « Et si l'IA invente quelque chose ? » Beaucoup d'éditeurs l'esquivent. Je préfère y répondre franchement, parce que la réponse honnête est aussi celle qui rassure le plus : oui, un modèle de langage peut produire une affirmation fausse avec assurance. On appelle cela une hallucination. Le sujet n'est pas de prétendre le contraire. Il est de savoir ce qui, dans un outil, transforme ce risque en non-événement.

Je ne suis ni juriste ni clinicien. Ce qui suit décrit une manière de concevoir un outil pour que la responsabilité reste là où elle doit être : chez le praticien.

Ce qu'est une hallucination, sans mystique

Un modèle de langage ne « sait » rien. Il produit la suite de mots la plus probable au vu de ce qu'on lui donne. La plupart du temps, cette suite probable est juste. Parfois, elle est plausible mais fausse : une posologie qui n'a jamais été prononcée, un antécédent glissé par analogie, une date reconstruite. L'erreur est d'autant plus piégeuse qu'elle est bien écrite. Un texte faux mais fluide inspire davantage confiance qu'une note maladroite mais exacte.

Dans un contexte clinique, ce risque n'est pas théorique. C'est précisément pour cela qu'un scribe sérieux ne peut pas se contenter d'être un bon rédacteur : il doit être conçu autour de l'idée qu'il se trompera parfois.

Le principe non négociable : vous validez, toujours

La première protection n'est pas technique, elle est de conception. Une note produite par Pllume n'existe pas tant que vous ne l'avez pas relue et approuvée. Ce n'est pas une formalité, c'est le cœur du dispositif : la machine propose une première version, le praticien décide. À aucun moment un texte ne part vers un dossier sans votre œil.

Un scribe fiable n'est pas un scribe qui ne se trompe jamais. C'est un scribe qui ne vous met jamais en position de ne pas voir qu'il s'est trompé.

Cela change la façon de lire la note. On ne la lit pas comme un compte rendu déjà vrai, on la lit comme un brouillon à valider, exactement comme on relirait la note d'un interne : avec bienveillance, mais sans signer les yeux fermés.

Ce qui réduit le risque en amont

Rester maître de la validation ne suffit pas si l'outil vous noie sous des erreurs : relire deviendrait aussi lourd que rédiger. Plusieurs choix, en amont, réduisent la fréquence et la gravité des dérapages.

Le premier est la spécialisation. Un modèle cadré sur la santé mentale, nourri des structures de la discipline, invente moins qu'un généraliste sommé de tout faire, parce que le champ des suites « probables » est plus resserré et plus pertinent. Le deuxième est le fait de coller au dit. Un bon scribe reformule ce qui a été prononcé ; il ne complète pas les silences avec du vraisemblable. Le troisième, ce sont les garde-fous : des vérifications automatiques sur les points les plus sensibles, comme les mentions de traitement, qui signalent une incohérence plutôt que de la laisser passer.

Aucun de ces mécanismes ne rend l'erreur impossible. Ensemble, ils la rendent rare et visible, ce qui est le seul objectif atteignable et honnête.

La bonne note reste une note relue

Au fond, l'arrivée de l'IA ne change pas la règle qui protégeait déjà le praticien : une note engage celui qui la signe. Un scribe bien conçu vous fait gagner le temps de la première rédaction, pas celui de la relecture. C'est ce temps de relecture, court mais irremplaçable, qui garde l'humain au centre et l'erreur sous contrôle. Le reste, comme ce qui fait qu'une note tient en cas de litige, est traité dans notre article sur la note défendable, et le cadre du secret professionnel dans celui sur l'IA et le secret professionnel.

C'est aussi pour cela que le choix de l'outil compte : entre un scribe généraliste et un assistant pensé pour la santé mentale, la différence se joue autant sur la fiabilité que sur la profondeur. Nous l'avons détaillée dans notre comparatif des scribes IA santé mentale. Et si vous voulez juger sur pièce, vous pouvez en faire l'essai sur une vraie consultation.