Journal d’audit d’un agent IA : une décision pas à pas
La ligne 0412 a deux centimes d’écart. Suivez chaque trace que l’agent écrit avant qu’une personne valide, sans rien modifier.
EN 30 SECONDES
La piste d’audit d’une décision est la suite d’enregistrements écrits pendant que l’agent travaille : preuve, contrôles, décision, puis l’éventuelle revue humaine en nouvel enregistrement. Chaque question d’auditeur renvoie alors à des champs précis.
À RETENIR · 3
- Chaque question d’auditeur renvoie à une partie de l’enregistrement : la preuve réellement utilisée, la décision avec l’éventuelle revue humaine, et une chaîne d’empreintes comparée à un point de contrôle signé.
- Une validation humaine est un second enregistrement, jamais une modification, et un contrôle échoué est conservé comme un contrôle réussi.
- Pour les registres que couvre la règle 17a-4(f) de la SEC, la chaîne d’empreintes de ce modèle est une pièce de l’option « piste d’audit », pas sa totalité. Demandez à votre avocat quelle option vous revendiquez.
Sur cette page
Une ligne de rapprochement, suivie pas à pas
EN BREF La preuve est écrite avant la décision, et la validation humaine devient un nouvel enregistrement, pas une modification.
LES MOTS À CONNAÎTRE
- Preuve
- Le passage exact de chaque document source que l’agent a réellement utilisé, avec sa page et sa position.
- Passer la main
- Confier le cas à une personne au lieu de répondre. L’agent ne donne aucune réponse et rien n’est passé en comptabilité.
- Chaîne d’empreintes
- Chaque enregistrement contient l’empreinte (hash) du précédent : modifier une ligne casse, en pratique, toutes les empreintes qui suivent.
- Point de contrôle signé
- Une copie signée de la dernière empreinte, rangée là où celui qui écrit le journal ne peut pas la modifier.
Prenons une ligne de relevé bancaire, tracée selon le modèle que je propose, pas un standard. Le travail de l’agent : associer les lignes de la banque aux comptes. Les valeurs sont fictives : ce qui compte, c’est le moment de chaque écriture.
ÉTAPE PAR ÉTAPE
Étape 1. Déclenchement. Le planificateur lance l’exécution pour une ligne de relevé.
- Déclenchement Le planificateur lance l’exécution pour une ligne de relevé.
- La preuve d’abord L’agent écrit ce qu’il a trouvé : deux documents, chacun avec son empreinte et l’extrait exact utilisé. Aucune réponse n’existe encore.
- Contrôles Les montants tombent-ils juste au centime ? La source dit-elle bien cela ? Les deux résultats sont journalisés, et le contrôle des montants échoue pour deux centimes d’écart.
- Décision L’agent passe la main à une personne. La décision est journalisée comme une valeur, pas comme une erreur.
- Revue Un relecteur voit l’enregistrement, avec des liens vers l’extrait conservé de chaque source.
- Validation ajoutée Le relecteur valide, avec une note sur les frais bancaires à l’origine des deux centimes. C’est un second enregistrement ; le premier n’est jamais touché.
- Chaînage Chaque écriture est chaînée à la précédente par son empreinte, et la chaîne se vérifie par rapport à un point de contrôle signé.
EN CLAIR
On garde les échecs comme les réussites. Le flux, et pourquoi l’agent avait le droit de refuser : voir l’article sur le rapprochement bancaire.
Un journal d’audit qui ne garde que les succès, c’est du marketing.
Dans la section suivante : Alors, que fait un auditeur de ces enregistrements ?
Trois questions d’auditeur, trois groupes de champs
EN BREF Chaque question d’auditeur renvoie à des champs précis : on y répond en les consultant, pas en expliquant son architecture.
Un auditeur ne cherche pas à comprendre votre système. Il cherche à mettre en défaut une affirmation, avec la Preuve Le passage exact de chaque document source que l’agent a réellement utilisé, avec sa page et sa position. Voir le glossaire en premier. Un score d’exactitude global ne dit ni quel passage a servi, ni qui en répondait, ni si le journal a bougé.
UN EXEMPLE CONCRET
Chiffres illustratifs
VALIDÉL’auditeur choisit la ligne 0412 du relevé de juillet
ENTRÉE
- Ligne
- stmt:2026-07/line-0412
- Journal
- enregistrements d’audit, jamais modifiés
CE QUI SE PASSE
- D’où vient ce chiffre ? On ouvre evidence et inputDigest : les deux documents sources s’ouvrent sur l’extrait conservé, et leurs empreintes correspondent toujours. Pour reconstituer l’entrée elle-même, il faut la référence autorisée gardée avec elle.
- Qui en répondait ? On lit decision et humanReview : l’agent passe la main, puis un second enregistrement avec un relecteur nommé, l’heure et la note sur les frais (ou la règle qui rendait la revue inutile).
- Le journal a-t-il été retouché ? On recalcule chain et on le compare à un point de contrôle signé et fiable, gardé hors de portée de celui qui écrit le journal.
SORTIE
- Résultat
- sortie reconstituée, à la demande
NON RECONSTITUÉMême ligne, observabilité seule
ENTRÉE
- Ligne
- stmt:2026-07/line-0412
- Données
- traces échantillonnées, 30 jours de conservation
CE QUI SE PASSE
- L’exécution n’a pas été échantillonnée, ou sa trace a expiré après 30 jours.
- Aucune entrée ne dit quel passage de document l’agent a utilisé.
- Le tableau de bord peut être complété après coup : rien ne prouve qu’il n’a pas bougé.
SORTIE
- Résultat
- seulement le score d’exactitude global
On sous-estime souvent la troisième question. Aux États-Unis, la SEC, régulateur fédéral de la Bourse, a une règle nette pour les courtiers. Selon la règle 17a-4(f) de la SEC, les registres électroniques qu’elle couvre ont deux options :
- garder les données dans un format qu’on ne peut ni réécrire ni effacer ;
- ou tenir une piste d’audit complète et horodatée de chaque changement et de chaque suppression.
ATTENTION
Il faut aussi les anciennes valeurs, l’auteur des changements le cas échéant et une durée de conservation. Demandez à votre avocat quelle option vous revendiquez réellement.
Vérifier une citation, et pas seulement la joindre : c’est le sujet d’un article à part.
OBJET OBTENU
Trois questions, trois réponses
NIVEAU TERMINÉ
Ce que vous savez maintenant
- Dans quel ordre s’écrivent les enregistrements, et pourquoi la preuve précède la décision.
- Quels champs répondent à chacune des trois questions de l’auditeur.
- Pourquoi la chaîne d’empreintes de ce modèle ne couvre au mieux qu’une partie de ce que demande la règle 17a-4(f).
Vérifiez par vous-même
Touchez ou cliquez une question pour voir la réponse.
Cas fictif : une personne qui a tous les droits d’écriture reconstruit tout le journal et recalcule chaque empreinte. La chaîne est cohérente de bout en bout. Peut-on faire confiance au journal ?
Pas sur la seule foi de la chaîne. Une chaîne cohérente montre seulement que les lignes concordent entre elles. Comparez-la à un point de contrôle signé, hors de portée de cette personne : un écart montre que le journal ne correspond plus à ce qui a été signé.
Ancien CTO d’Integra. Auteur nommé (1 sur 5) d’ERC-3643, premier auteur d’ERC-6960, co-auteur d’ERC-7410 et co-auteur d’ERC-8203, encore à l’état de brouillon. Conçoit des systèmes d’IA en production et des systèmes Web3 régulés.
Un projet à livrer ou un poste à pourvoir ?
Parlons de votre besoinSuivre les notes techniques
Recevez les nouveaux articles sur l’IA en production et les smart contracts par email.