Piste d’audit d’un agent IA : un enregistrement en 14 champs
Un auditeur montre un chiffre produit par votre agent IA et demande d’où il vient. Sauriez-vous le lui montrer ?
EN 30 SECONDES
Un enregistrement d’audit, pour un agent IA, est une entrée écrite au moment où l’agent agit, pour qu’une personne extérieure puisse retracer une sortie précise. Ce niveau présente l’enregistrement à 14 champs que je propose : ma proposition, pas un standard.
À RETENIR · 3
- Un auditeur demande comment un chiffre précis a été produit, qui en répondait, et si le journal a été retouché depuis.
- Je propose 14 champs, un enregistrement par action d’agent : ma proposition, pas un standard.
- Écrivez la preuve avant la réponse, et comparez la chaîne d’empreintes à un point de contrôle signé, hors de portée de celui qui écrit.
Sur cette page
La question qui fait caler un pilote IA
EN BREF Un pilote, l’essai avant le déploiement complet, cale quand personne ne sait montrer d’où vient un chiffre, même si le modèle avait vu juste.
Prenons un audit, à titre illustratif. Un auditeur choisit une ligne dans un rapport fait par votre agent. Il montre un chiffre et demande d’où il vient.
Votre score d’exactitude global ne sert à rien ici : l’auditeur veut la preuve derrière cette sortie précise. Si le contexte de la décision n’a pas été conservé, la reconstituer peut être impossible.
Ce que l’équipe peut montrer
Ce que demande l’auditeur
L’observabilité, ces traces et tableaux de bord qui servent à déboguer, ne vous sauvera pas ici. Elle sert l’équipe technique. Un Enregistrement d’audit Une entrée par action d’agent, écrite au moment de l’action, qu’on peut compléter mais jamais modifier. Voir le glossaire, lui, est fait pour quelqu’un qui ne vous fait pas confiance, et cet écart se voit dans chaque champ.
Dans la section suivante : Alors, qu’est-ce qui rend un enregistrement crédible aux yeux d’un tiers ?
Les mots à connaître
EN BREF Un enregistrement ne convainc l’auditeur que s’il a été écrit sur le moment, ne peut pas être retouché en douce et cite les sources utilisées.
LES MOTS À CONNAÎTRE
- Enregistrement d’audit
- Une entrée par action d’agent, écrite au moment de l’action, qu’on peut compléter mais jamais modifier.
- Preuve
- Le passage exact de chaque document source que l’agent a réellement utilisé, avec sa page et sa position.
- Chaîne d’empreintes
- Chaque enregistrement contient l’empreinte (hash) du précédent, une courte suite de caractères qui, en pratique, change si un seul octet change.
- Point de contrôle signé
- Une copie signée de la dernière empreinte, rangée là où celui qui écrit le journal ne peut pas la modifier.
Dans ce modèle, l’enregistrement ne se modifie pas : on ajoute des entrées, on ne touche jamais aux anciennes. Une correction est une nouvelle entrée qui renvoie à l’ancienne.
Chaque entrée garde la Preuve Le passage exact de chaque document source que l’agent a réellement utilisé, avec sa page et sa position. Voir le glossaire utilisée, avec l’empreinte de chaque document. Elle porte aussi l’empreinte de l’entrée précédente : c’est une Chaîne d’empreintes Chaque enregistrement contient l’empreinte (hash) du précédent, une courte suite de caractères qui, en pratique, change si un seul octet change. Voir le glossaire, et modifier une ligne casse toutes les empreintes qui suivent.
ADAM explique : Pensez à un cahier de labo relié, aux pages numérotées, tenu à l’encre : une page arrachée se voit. La limite : un journal numérique peut être reconstruit en entier, chaque empreinte recalculée.
Comparez donc la chaîne à un Point de contrôle signé Une copie signée de la dernière empreinte, rangée là où celui qui écrit le journal ne peut pas la modifier. Voir le glossaire, protégé à part. Recalculer une chaîne non signée ne prouve pas que personne ne l’a remplacée.
Dans la section suivante : Que contient donc chaque enregistrement ?
L’enregistrement : 14 champs en trois groupes
EN BREF Je propose un enregistrement par action d’agent, avec 14 champs en trois groupes.
Ma proposition, pas un standard.
Un par action, car c’est l’action que l’auditeur montre du doigt. Les champs répondent aux questions qu’on se pose pour retracer une sortie, pas à des échanges avec l’auditeur d’un client.
EN CLAIR
L’article 12, sur la tenue de registres, exige qu’un système à haut risque permette techniquement d’enregistrer ses événements automatiquement, tout au long de sa vie. Il dit que ce journal doit exister. Il ne donne pas de modèle de données : celui-ci est le mien.
Pour les systèmes à haut risque, ces obligations s’appliquent à partir du 2 décembre 2027 pour l’annexe III et du 2 août 2028 pour l’annexe I (règlement (UE) 2026/1744, calendrier de la Commission). Cet article est écrit par un ingénieur IA et smart contracts : chaque exigence légale de cet épisode renvoie à sa source, vous pouvez la vérifier.
ÉTAPE PAR ÉTAPE
Étape 1. L’exécution. Huit champs décrivent l’exécution : quand, quel agent, quel modèle, quel prompt, quelle entrée. L’empreinte d’une entrée ne permet pas de la retrouver : gardez une référence autorisée s’il faut la reconstituer.
- L’exécution Huit champs décrivent l’exécution : quand, quel agent, quel modèle, quel prompt, quelle entrée. L’empreinte d’une entrée ne permet pas de la retrouver : gardez une référence autorisée s’il faut la reconstituer.
- Ce qui a été conclu Quatre champs gardent la preuve, chaque contrôle avec son résultat, la décision et l’éventuelle revue humaine.
- Durée et confiance Deux champs nomment la règle de conservation et chaînent l’enregistrement au précédent.
Un champ pèse plus que les autres, et tout tient au moment où il est écrit : la preuve est écrite au moment de la recherche, avant toute réponse. Les sources trouvées plus tard peuvent encore compter, si on les présente comme corroboration ultérieure.
OBJET OBTENU
La preuve d’abord
FAQ
Non. L’observabilité sert l’équipe : selon le réglage, ses traces peuvent être échantillonnées, expirer ou être retouchées après coup. L’enregistrement d’audit couvre tout le périmètre, dure le temps fixé par la loi et toute retouche s’y voit ; l’un peut reposer sur l’autre, mais un tableau de bord n’en est pas un par défaut.
NIVEAU TERMINÉ
Ce que vous savez maintenant
- Pourquoi un score moyen ne répond pas à la question d’un auditeur sur un chiffre.
- Ce qui rend un enregistrement crédible, et comment se groupent les 14 champs proposés.
Vérifiez par vous-même
Touchez ou cliquez une question pour voir la réponse.
Cas fictif : une heure après chaque réponse, un script fouille la base documentaire et joint la source la plus proche. Est-ce la preuve de l’agent ?
Non. Cela montre qu’une source plausible existe, pas que l’agent s’en est servi. On peut la journaliser comme corroboration ultérieure, en l’indiquant. La preuve, c’est ce qui a été écrit au moment de la recherche.
Ancien CTO d’Integra. Auteur nommé (1 sur 5) d’ERC-3643, premier auteur d’ERC-6960, co-auteur d’ERC-7410 et co-auteur d’ERC-8203, encore à l’état de brouillon. Conçoit des systèmes d’IA en production et des systèmes Web3 régulés.
Un projet à livrer ou un poste à pourvoir ?
Parlons de votre besoinSuivre les notes techniques
Recevez les nouveaux articles sur l’IA en production et les smart contracts par email.