Hallucination

Une hallucination est le moment où un système d'IA génère une affirmation plausible mais factuellement infondée, une statistique erronée, une citation mal attribuée, un détail inventé, qui n'est en réalité étayée par aucune des sources qu'il a récupérées en construisant sa réponse.

Pourquoi c'est important

Quand un modèle hallucine une fausse information sur une marque et que rien ne la corrige, cette erreur peut se retrouver devant chaque utilisateur qui pose une question connexe par la suite. Surveiller ce que les systèmes d'IA disent réellement, et avec quelle exactitude, est une préoccupation directe de sécurité de marque, pas seulement de visibilité.

Termes associés

• Ancrage (grounding)

  L'ancrage, ou grounding, désigne le moment où un système d'IA appuie sa réponse générée sur une source précise récupérée, une page web en direct, un document, un enregistrement de base de données, plutôt que de s'appuyer uniquement sur les schémas appris pendant l'entraînement. C'est ce qui distingue une réponse citée d'une réponse non étayée.

• Retrieval-Augmented Generation (RAG)

  Le Retrieval-Augmented Generation (RAG) est l'architecture derrière la majorité de la recherche IA : le système récupère un ensemble de documents ou passages pertinents au moment de la requête, puis génère sa réponse en s'appuyant sur ce contenu récupéré, plutôt que sur ce qu'il a appris uniquement pendant son entraînement.