Comprendre les risques d'un chatbot client
Vous voulez déployer ou auditer un chatbot IA face à vos clients. Les enjeux clés concernent la fiabilité des réponses, la sécurité des échanges et la transparence vis-à-vis de l'utilisateur.
Un chatbot client expose votre marque à chaque réponse. Les risques principaux : réponses inventées (hallucinations), promesses non tenues juridiquement opposables, fuites de données conversationnelles, opacité sur la nature IA du dialogue. Avant de lancer ou auditer un chatbot, lisez les 6 fiches ci-dessous : elles couvrent l'essentiel.
Les fiches recommandées pour ce parcours
B1 — Quand l'IA invente plutôt que de dire « je ne sais pas »
L'hallucination désigne le cas où une IA générative produit une réponse fausse en lui donnant l'apparence d'une réponse vraie — date inventée, citation inexistante, fait fabriqué, raisonnement plausible mais erroné. Le discours public traite l'hallucination comme un phénomène unique ; en réalité, on peut en distinguer trois types, qui ne se détectent pas et ne se traitent pas de la même façon.
B2 — Quand votre IA change de comportement sans rien vous dire
Les modèles d'IA évoluent en permanence. Leur fournisseur applique des ajustements quotidiens — visibles ou non — pour corriger des comportements, respecter de nouvelles règles, s'adapter à un contexte juridique mouvant. Le résultat : un même usage qui fonctionnait hier peut donner un résultat différent aujourd'hui, sans qu'aucun changement n'ait été fait de votre côté.
B3 — Pourquoi la même question ne donne pas toujours la même réponse
Une même question posée plusieurs fois à une IA générative ne produit pas exactement la même réponse à chaque cycle. Les modèles se sont beaucoup améliorés sur ce point — les écarts d'aujourd'hui sont moindres qu'il y a deux ans — mais l'incohérence résiduelle reste un enjeu opérationnel réel, notamment pour les usages où la reproductibilité est exigée par le métier (juridique, conformité, analyse de documents, scoring).
B5 — Quand le problème n'est pas l'IA, mais la façon dont on lui parle
L'erreur d'usage et de formulation désigne le cas où la sortie IA est insuffisante non parce que le modèle est défaillant, mais parce que la demande humaine est mal structurée — objectif flou, étapes confuses, contraintes implicites, contexte manquant. Cette erreur est statistiquement plus fréquente que les erreurs propres au modèle, et c'est aussi celle sur laquelle l'humain a le plus de prise.
C2 — Quand quelqu'un manipule votre IA pour lui faire dire ou faire ce qu'elle ne devrait pas
La prompt injection désigne les manipulations qui poussent une IA à contourner ses garde-fous — révéler ses instructions système, exécuter des actions non prévues, divulguer des informations qu'elle devait protéger, sortir de son périmètre d'usage. Ces attaques peuvent être directes (un utilisateur malveillant tape une instruction conçue pour tromper l'IA) ou indirectes (l'IA lit un document, un site web, un email contenant des instructions cachées qu'elle exécute sans le savoir). Aucun système n'est jamais résistant à 100% — l'enjeu est de mesurer le niveau de résistance et de le maintenir dans le temps.
D5 — Dire que c'est fait par IA, oui — mais surtout dans quelles conditions
La transparence vers les utilisateurs finaux désigne l'obligation d'informer les personnes qu'elles interagissent avec une IA, ou qu'un contenu qu'elles consultent a été généré ou assisté par IA. Le règlement (UE) 2024/1689 article 50 pose plusieurs obligations en ce sens — interactions avec IA, contenus synthétiques, deepfakes, contenus journalistiques sur des sujets d'intérêt public. Au-delà de l'obligation, la mention seule « contenu généré par IA » ne suffit pas à elle-même — un même label peut désigner un travail rigoureux ou un travail médiocre.