L''hallucination est le risque principal de la rédaction automatisée. Un modèle IA peut inventer une citation, attribuer un chiffre faux à une source réelle, ou créer un contexte historique inexistant. Ce risque est gérable, à condition de mettre en place une chaîne de garde-fous. Voici ce que delapresse applique.
Trois types d''hallucination
L''hallucination factuelle : un nom propre incorrect, une date fausse, un chiffre absent de la source. Le plus dangereux et le plus fréquent. Taux moyen sur un prompt non protégé : 5-8 %.
L''hallucination de citation : le modèle attribue des mots à une personne qui ne les a jamais prononcés. Particulièrement grave en presse, où une fausse citation peut générer un contentieux. Taux moyen : 0,5-2 % selon le modèle.
L''hallucination de contexte : invention d''un événement historique, d''un précédent juridique, d''une étude scientifique inexistante. Taux moyen : 1-3 %. Difficile à détecter car le contexte paraît plausible.
Protection 1 : source explicite
Le levier le plus puissant. Le prompt système inclut le texte intégral de la source d''origine, suivi de la consigne explicite : « Aucun fait, chiffre, citation ou contexte non présent dans cette source n''est autorisé. » Cette consigne réduit le taux d''hallucination de 6 % à 0,8 % sur Claude Haiku 4.5 (anatomie d''un article Haiku).
Sans source explicite, le modèle pioche dans son « savoir général », qui est exactement ce qui produit les hallucinations.
Protection 2 : étape QA sur un autre modèle
Après la réécriture, l''article passe par un modèle différent (typiquement Sonnet 4.6 si la réécriture est en Haiku) avec une consigne unique : « Vérifie que chaque fait, chiffre et citation est présent dans cette source. Liste les écarts. » Le modèle QA produit un rapport d''écarts qui est attaché à l''article dans le journal d''audit.
Le routage modèles (guide dédié) configure cette étape QA automatiquement. Sur les écarts détectés, le pipeline a deux options : rejeter l''article (envoi en file d''approbation manuelle) ou supprimer la phrase incriminée. Le défaut sécuritaire : rejeter.
Protection 3 : signalisation des entités sensibles
Les noms propres, les chiffres et les dates sont marqués automatiquement dans l''output. Si une entité apparaît dans l''article mais pas dans la source, elle est encadrée par un drapeau invisible (<flag>X</flag>) que la file d''approbation transforme en surlignage rouge à la relecture.
Cette signalisation permet à un éditeur humain de scanner rapidement un article de 800 mots et de vérifier les 10-15 entités sensibles plutôt que de relire intégralement.
Protection 4 : audit conservé
Chaque article publié garde dans le journal d''audit : la source d''origine (intégrale), le modèle utilisé, le prompt système, l''output brut avant nettoyage, le rapport QA, le score d''écart. Conservation 5 ans minimum, conformément aux exigences ARCOM et CNIL (cf. RGPD et contenu IA).
En cas de contestation par un tiers, vous reproduisez la chaîne complète et démontrez que l''article a bien été rédigé à partir de la source légitime.
Le seuil acceptable
Aucune chaîne IA n''atteint 0 % d''hallucination. delapresse vise et atteint sur ses sites en production un taux résiduel de 0,1 à 0,3 % après application des quatre protections. C''est équivalent au taux d''erreur factuelle d''une rédaction humaine de presse régionale.
Au-dessus de 1 % résiduel, l''une des protections est mal configurée. Auditez d''abord la source explicite (le levier le plus puissant), puis le routage QA.
Limites
Aucune protection ne couvre l''hallucination de contexte si la source elle-même contient une erreur. Si AFP publie un chiffre faux, votre article le reprendra. C''est un risque éditorial classique, pas un risque IA spécifique. La parade est la diversification des sources et le scoring de fiabilité par source.
En pratique
Configurez les quatre protections dès l''onboarding. Mesurez votre taux d''hallucination résiduel sur 200 articles consécutifs. Au-delà de 1 %, auditez. Lisez l''anatomie d''un article Claude Haiku et la rédaction IA et l''âme éditoriale.