AI Act, articles 12 et 14 : quoi journaliser, quand s’arrêter
On demande à votre agent de payer un fournisseur. Que doit-il consigner, et qui doit signer avant que l’argent bouge ?
EN 30 SECONDES
Un enregistrement d’audit est une entrée sauvegardée pour chaque action d’un agent IA : ce qu’il a vu, ce qu’il a décidé et qui a relu. L’article 12 demande une journalisation automatique pendant toute la durée de vie du système ; l’article 14, une conception où une personne peut intervenir. Dans celle que je propose, un paiement attend une signature.
À RETENIR · 3
- Pour un ingénieur, l’article 12 est un schéma : un enregistrement d’audit par action, avec versions du modèle et du prompt, preuves, décision et revue humaine éventuelle.
- Le même enregistrement peut nourrir les preuves de plusieurs articles ; il ne remplit pas, à lui seul, toutes ces obligations.
- L’article 14 peut devenir une branche du code. Dans la conception que je propose, l’agent s’abstient quand les preuves sont insuffisantes et attend une signature quand une action déplace de l’argent ou modifie un enregistrement.
Sur cette page
Article 12 : ce qu’il faut journaliser, concrètement
EN BREF L’article 12 se lit comme de la paperasse, mais pour un ingénieur, c’est un schéma.
LES MOTS À CONNAÎTRE
- Enregistrement d’audit
- Une entrée sauvegardée pour chaque action du système : ce qu’il a vu, ce qu’il a décidé et qui a relu.
- Passage de relais
- Confier un cas à une personne, avec ce que l’agent a trouvé et la raison de son arrêt.
- Validation humaine
- Dans la conception proposée ici, l’accord d’une personne nommée, exigé avant qu’une action à fort enjeu, comme un paiement, puisse s’exécuter.
Il demande qu’un système à haut risque enregistre automatiquement les événements pendant toute sa durée de vie, pour pouvoir reconstituer un incident plus tard. En pratique, cela veut dire un Enregistrement d’audit Une entrée sauvegardée pour chaque action du système : ce qu’il a vu, ce qu’il a décidé et qui a relu. Voir le glossaire par action.
EN CLAIR
Gardez chaque sortie avec ce qui l’a produite : le modèle, la version du prompt (les instructions données au modèle), les preuves récupérées, l’action et la revue humaine éventuelle.
L’exemple ci-dessous est fictif. Ce n’est pas un enregistrement tiré du système d’un client.
UN EXEMPLE CONCRET
Chiffres illustratifs
VALIDÉDemande 1 : expliquer des frais
ENTRÉE
- Demande
- Expliquer les frais de 1 250,00 EUR du relevé de mars
- Modèle, prompt
- model-a, prompt v14
CE QUI SE PASSE
- L’agent récupère la grille tarifaire et la facture de mars.
- Les deux étayent le même montant : il répond et les cite.
- Il écrit un enregistrement. Une personne valide la réponse.
SORTIE
- decision
- answer
- retrievedDocIds
- [fee-schedule, inv-0312]
- outcome
- accepted
ATTEND UNE PERSONNEDemande 2 : payer ces frais tout de suite
ENTRÉE
- Demande
- Payer les 1 250,00 EUR au fournisseur
CE QUI SE PASSE
- Cette action déplace de l’argent : l’agent ne peut pas l’exécuter seul.
- Il inscrit la valeur escalate dans le champ decision, puis s’arrête.
- Rien ne s’exécute tant qu’une personne nommée n’a pas signé.
SORTIE
- decision
- escalate
- humanReviewer
- vide jusqu’à la signature
- outcome
- pending
Le même enregistrement peut nourrir les preuves de plusieurs articles. Il ne remplit pas, à lui seul, toutes ces obligations.
Art. 12 : regroupe chaque étape d’une action dans un seul enregistrement reconstituable.
Art. 12 : ISO-8601, UTC, pour une trace ordonnée et précise.
Art. 11 : le modèle et la version exacts derrière la sortie, générés et non rédigés.
Art. 11 : le prompt est de la configuration, et la configuration se versionne.
Art. 15 : les sources, pour vérifier que la réponse s’y appuie ; leurs identifiants seuls ne prouvent pas l’exactitude.
Art. 14 : s’abstenir et passer la main sont des issues prévues, pas des erreurs.
Art. 14 : renseigné quand une personne a confirmé ou corrigé la décision.
Art. 12 : on ajoute sans réécrire, l’enregistrement se complète au lieu d’être écrasé.
Dans la section suivante : Alors, qu’est-ce qui empêche l’agent de payer tout seul ?
Article 14 : le contrôle humain, inscrit dans le code
EN BREF Le contrôle humain est une branche du code qu’on peut montrer, pas une promesse écrite dans une politique.
L’article 14 est souvent cité, et souvent mal lu : il ne veut pas dire que quelqu’un regarde un tableau de bord. Il veut dire que le système est conçu pour qu’une personne puisse le comprendre, le corriger et l’arrêter, et pour qu’il n’agisse pas seul là où il ne le doit pas.
ATTENTION
Si votre seul contrôle consiste à dire « quelqu’un peut lire les journaux après coup », vous faites du suivi, pas du contrôle.
ÉTAPE PAR ÉTAPE
Étape 1. Demande. Une question arrive, ou une action comme un paiement.
- Demande Une question arrive, ou une action comme un paiement.
- Preuves L’agent extrait les documents qui pourraient étayer une réponse. Sans document, pas de réponse.
- Réponse Les preuves suffisent : l’agent répond et cite ses sources, pour qu’on puisse les vérifier.
- Abstention Preuves insuffisantes, donc pas de pari : l’agent confie le cas à une personne, avec ce qu’il a trouvé.
- Validation humaine L’action déplace de l’argent ou modifie un enregistrement : l’agent s’arrête et attend une signature. Rien ne s’exécute seul sur ce chemin.
- Enregistrement Quel que soit le chemin, l’agent écrit l’enregistrement d’audit, pour qu’on puisse reconstituer ce qui s’est passé.
Dans cette conception, si les preuves sont insuffisantes, l’agent peut lancer un Passage de relais Confier un cas à une personne, avec ce que l’agent a trouvé et la raison de son arrêt. Voir le glossaire ; pour un paiement, il lui faut une Validation humaine Dans la conception proposée ici, l’accord d’une personne nommée, exigé avant qu’une action à fort enjeu, comme un paiement, puisse s’exécuter. Voir le glossaire. Le contrôle compte le plus là où une action déplace de l’argent.
L’article 14 veut qu’on puisse intervenir avant le dommage, pas lire un journal après coup.
J’ai déjà expliqué comment cantonner ces actions, en ne donnant à l’agent que les droits dont sa tâche a besoin, dans le moindre privilège pour les agents qui paient. Le même contrôle sert aussi de preuve pour l’article 14.
OBJET OBTENU
Arrêt avant tout paiement
NIVEAU TERMINÉ
Ce que vous savez maintenant
- Vous savez esquisser un enregistrement d’audit : versions du modèle et du prompt, preuves, décision, relecteur, résultat.
- Vous distinguez suivi et contrôle, et vous savez quelles actions doivent attendre une personne.
Vérifiez par vous-même
Touchez ou cliquez une question pour voir la réponse.
Votre agent a des preuves solides qu’un client doit être remboursé, et veut lancer le virement tout de suite. Peut-il agir seul ?
Pas dans cette conception. Un remboursement déplace de l’argent : il passe par la validation humaine. L’agent enregistre sa décision et attend qu’une personne signe.
Ancien CTO d’Integra. Auteur nommé (1 sur 5) d’ERC-3643, premier auteur d’ERC-6960, co-auteur d’ERC-7410 et co-auteur d’ERC-8203, encore à l’état de brouillon. Conçoit des systèmes d’IA en production et des systèmes Web3 régulés.
Un projet à livrer ou un poste à pourvoir ?
Parlons de votre besoinSuivre les notes techniques
Recevez les nouveaux articles sur l’IA en production et les smart contracts par email.