B1 — Quand l'IA invente plutôt que de dire « je ne sais pas »
Sujet
L'hallucination désigne le cas où une IA générative produit une réponse fausse en lui donnant l'apparence d'une réponse vraie — date inventée, citation inexistante, fait fabriqué, raisonnement plausible mais erroné. Le discours public traite l'hallucination comme un phénomène unique ; en réalité, on peut en distinguer trois types, qui ne se détectent pas et ne se traitent pas de la même façon.
Conseil
Nous vous conseillons d'apprendre à reconnaître les trois types d'hallucination et d'adopter une pratique différente pour chacun : les hallucinations dues à l'obligation de répondre (l'IA invente plutôt que d'avouer son ignorance) demandent un cadre méthodologique strict ; les hallucinations dues à l'entraînement (l'IA propose ce qu'elle connaît plutôt que ce qui répond précisément à votre demande) s'apprennent à détecter avec l'usage ; les hallucinations dues au mélange de données (contextes trop longs ou agents qui accumulent les données) se préviennent par une bonne hygiène de session — démarrer un nouveau chat, nettoyer les contextes, segmenter les sujets. C'est ce que permet par exemple Liren AI Validator pour la mesure factuelle des deux premiers types. La philosophie CLAVIS soutient ce principe : pas de confiance en l'IA, ni dans l'humain, mais seulement dans les faits mesurables.
L1 Niveau 1 — Néophyte
Imaginez un salarié qui a un peu menti sur son CV. Vous lui demandez de faire une tâche qu'il n'a jamais faite, mais comme c'est censé être dans ses compétences, vous ne posez pas la question. Va-t-il vous avouer qu'il ne sait pas faire ? Plus probablement, il va essayer, simuler, improviser. L'IA fonctionne pareil. Elle est conçue pour répondre — toujours. Si elle ne sait pas, elle préfère inventer une réponse plausible plutôt qu'avouer son ignorance. Ce n'est pas qu'elle ment volontairement. C'est sa nature. Une bonne pratique consiste à toujours considérer une réponse IA comme une proposition à vérifier, surtout sur des faits précis, des chiffres, des noms, des citations. L'IA ne sait pas dire « je ne sais pas ».
L2 Niveau 2 — Utilisateur
Il existe trois types d'hallucinations, et c'est utile de savoir les distinguer parce qu'on ne les évite pas de la même façon. La première vient du fait que l'IA doit toujours répondre : forcée dans sa réflexion, elle peut vous inventer un président qui n'existe pas, une loi qui n'existe pas, un article scientifique imaginaire. C'est le plus dangereux des trois, parce que ces inventions sont structurellement plausibles. La deuxième vient de l'entraînement : l'IA vous donne ce qu'elle connaît plutôt que ce que vous avez précisément demandé. Vous vous retrouvez avec une réponse moyenne, prise dans son corpus, plutôt qu'avec la réponse exacte à votre question. La troisième vient du mélange de données : quand vous gardez un chat ouvert trop longtemps, les sujets s'empilent et l'IA finit par mélanger ce qui ne va pas ensemble. Vous voyez le même phénomène avec les agents IA qui accumulent leurs données au fil du temps. La bonne pratique change selon le type. Pour le premier, vérifiez systématiquement les faits affirmés. Pour le deuxième, vous apprendrez à le détecter avec l'expérience. Pour le troisième, démarrez régulièrement un nouveau chat, nettoyez vos contextes, ne mélangez pas vos projets dans une même conversation.
L3 Niveau 3 — Averti
L'hallucination IA recouvre trois phénomènes distincts qu'il est important de séparer pour les traiter efficacement. Le premier type — hallucination par contrainte de réponse — résulte du fait que les modèles d'IA générative sont entraînés pour répondre, pas pour s'abstenir. Sollicitée sur un sujet qu'elle ne maîtrise pas, ou poussée à conclure sur une question incertaine, l'IA produit une réponse plausible plutôt qu'un aveu d'ignorance. C'est le type le plus dangereux, parce que la production est structurellement crédible — l'IA invente alors une réalité qui ressemble à la vraie. Sa détection demande un esprit critique permanent et, idéalement, une mesure systématique sur des cas de test connus. Le deuxième type — hallucination par biais d'entraînement — apparaît quand l'IA propose une réponse statistiquement probable selon son corpus, mais qui ne correspond pas précisément à la demande de l'utilisateur. La réponse n'est pas inventée à proprement parler ; elle est moyenne là où il fallait être précis. Ce type s'apprend à reconnaître avec l'usage régulier. Le troisième type — hallucination par mélange de contexte — survient quand un chat trop long, ou un agent IA accumulant des données dans le temps, finit par mélanger des éléments qui n'appartiennent pas au même projet. Ce phénomène est observable aussi bien sur les conversations longues que sur les architectures agentiques. Sa prévention repose sur une hygiène de session stricte : démarrer un nouveau chat plutôt que de prolonger, nettoyer les contextes, segmenter les sujets en séquences distinctes et restreintes — exactement le principe qui structure l'architecture CLAVIS où chaque élément est restreint à une utilisation précise.
L4 Niveau 4 — Expert
L'hallucination des LLM est généralement traitée comme un phénomène unique dans la littérature et le discours public. En pratique opérationnelle, il est utile de la décomposer en trois mécanismes distincts qui appellent des stratégies de détection et de mitigation différenciées. Premier mécanisme — hallucination par contrainte autoregressive : le modèle, sollicité hors de son domaine de connaissance fiable, génère le token statistiquement le plus probable plutôt que de marquer l'incertitude. C'est le mécanisme le plus opérationnellement dangereux, parce que la sortie reste syntaxiquement et sémantiquement plausible. Sa détection passe par une instrumentation systématique : tests sur des questions à vérité connue, mesure du taux d'hallucination par domaine, calibration de l'incertitude (notamment via des techniques de self-consistency ou de chain-of-verification). Liren AI Validator outille cette mesure factuelle, sur un nombre paramétrable de cycles, avec attestation reproductible. Deuxième mécanisme — biais d'entraînement et drift sémantique : le modèle produit la réponse la plus représentative de son corpus plutôt que la plus précise au cas demandé. La sortie n'est pas inventée mais déplacée — généralisée là où il fallait être spécifique. Sa détection repose sur l'expertise métier du lecteur et sur des prompts précisant rigoureusement le périmètre de la réponse attendue (cf. F3). Troisième mécanisme — contamination de contexte : sur des sessions longues, ou dans des architectures agentiques accumulant un état mémoriel, le modèle commence à mélanger des éléments appartenant à des projets distincts. Le phénomène se manifeste par des incohérences subtiles, des réutilisations inappropriées, des références à des éléments qu'aucun message récent n'a introduits. Sa prévention repose sur une discipline de session : nettoyage explicite des contextes, segmentation des projets, sessions courtes et focalisées. L'architecture CLAVIS applique ce principe à un niveau structurel : chaque fonction y est restreinte à un usage précis, sans capacité d'accumulation transversale (cf. C5, E5). Le principe directeur reste constant : pas de confiance en l'IA, pas de confiance dans l'humain qui la sollicite, mais confiance uniquement dans les faits mesurables. Une organisation qui distingue ces trois types d'hallucinations dans sa pratique opérationnelle traite chacun avec la méthode appropriée — et obtient un taux résiduel d'hallucination radicalement inférieur à celui d'une organisation qui les confond.
Contextes où cet enjeu est critique
Mesurer le comportement réel de votre IA
AI Validator teste systématiquement la fiabilité de vos systèmes IA dans votre contexte métier. Rapport signé HMAC, opposable.
Découvrir l'outil