AI Act, haut risque : quels articles se traduisent en code ?
Votre politique dit qu’une personne valide chaque paiement ; votre code est-il d’accord ? Lu en ingénieur, chaque article à haut risque de l’AI Act se traduit par un changement à construire.
EN 30 SECONDES
Un contrôle de conformité dans le code est une vérification placée sur le chemin de chaque action ordinaire, au lieu d’une promesse écrite. Ici, chaque article à haut risque, du 9 au 15 plus le 72, est relié à un tel changement. Il suppose qu’un avocat a déterminé si votre système est à haut risque.
À RETENIR · 3
- Lu en ingénieur, chaque article à haut risque (9 à 15, plus 72) devient un élément à construire : environ la moitié, des documents que vous pouvez générer ; le reste, du code, des tests, des alertes.
- Mettez la règle sur le chemin de chaque action ordinaire, contrôlez avant l’action et faites de l’échec une issue prévue.
- Ces contrôles peuvent contribuer à la conformité sans l’établir à eux seuls.
Sur cette page
La checklist : de l’article au changement de code
EN BREF Je relierais chaque article applicable aux systèmes à haut risque à quelque chose qu’on peut construire et montrer dans un dépôt.
LES MOTS À CONNAÎTRE
- Finalité
- L’usage auquel le fournisseur destine le système. Les responsables partent de là.
- Déployeur
- Une personne ou un organisme qui utilise un système d’IA sous sa propre autorité.
- Abstention
- Le choix d’un agent de ne pas répondre quand ses preuves sont insuffisantes, plutôt que de deviner.
D’abord, un responsable qualifié doit examiner à quoi sert le système, sa Finalité L’usage auquel le fournisseur destine le système. Les responsables partent de là. Voir le glossaire, et les conditions de l’article 6, voies des annexes I et III comprises. La suite suppose ce point réglé.
EN CLAIR
Les lignes viennent des exigences pour les systèmes à haut risque (chapitre III, section 2), plus l’article 72. Environ la moitié sont des documents que vous pouvez générer depuis le dépôt ; le reste, du code, des tests et des alertes. Ce regroupement est un cadrage d’ingénierie, pas une taxonomie juridique.
ADAM explique : Voyez l’AI Act comme un règlement de sécurité incendie, et vos contrôles comme les portes, alarmes et exercices. La limite : savoir si l’AI Act vise votre système relève d’une classification juridique, à trancher avec un avocat.
Et avoir les contrôles en place ne rend pas, à lui seul, un système conforme.
Dans la section suivante : Alors, pourquoi mettre la règle dans le code plutôt que dans une politique ?
Deux cas où j’ai imposé la conformité par le code
EN BREF La conformité imposée dans le code vaut mieux que celle promise dans un document.
Je l’ai fait deux fois. D’abord sur la blockchain : ERC-3643 impose l’éligibilité au transfert dans le jeton. Pour un transfert ordinaire, les contrôles d’identité et de conformité passent avant : le jeton ne va qu’à un détenteur vérifié.
ATTENTION
Cela ne couvre pas tout. Trois points demandent leur propre revue : les chemins privilégiés, c’est-à-dire les actions réservées aux rôles habilités comme un transfert forcé, les administrateurs eux-mêmes, et la validité des décisions d’identité prises hors chaîne.
Ensuite, un agent de recherche documentaire dans un fonds, conçu pour ne répondre qu’avec des preuves citées. Quand elles sont insuffisantes, il est conçu pour choisir l’Abstention Le choix d’un agent de ne pas répondre quand ses preuves sont insuffisantes, plutôt que de deviner. Voir le glossaire plutôt que de deviner.
ÉTAPE PAR ÉTAPE
Étape 1. Sur le chemin. ERC-3643 contrôle dans le transfert du jeton. L’agent contrôle dans sa réponse.
- Sur le chemin ERC-3643 contrôle dans le transfert du jeton. L’agent contrôle dans sa réponse.
- Le contrôle échoue Le jeton vérifie les attestations d’identité avant le transfert ; l’agent, ses preuves avant de répondre. Ici, le contrôle dit non.
- Une issue prévue Le transfert échoue : ses effets sont annulés. L’agent s’abstient au lieu de deviner.
L’AI Act rangerait cela sous le contrôle humain et l’exactitude. Moi, j’y voyais les raisons pour lesquelles l’agent avait le droit de toucher aux comptes. Comme pour le jeton, cela aide la conformité sans l’établir.
Bien construite, une règle placée sur le chemin ordinaire dispense chacun de s’en souvenir.
OBJET OBTENU
La règle sur le chemin
FAQ
Non. C’est une checklist d’ingénierie qui relie des obligations à du code, pour que vous sachiez quoi construire. Elle ne dit pas si la loi s’applique à vous, ni comment un juge la lirait.
Demandez à un avocat comment votre système est classé et comment lire les règles. Ensuite, servez-vous de cette checklist pour construire.
NIVEAU TERMINÉ
Ce que vous savez maintenant
- Vous savez nommer le changement de code que je relierais à chaque article à haut risque et à l’article 72.
- Vous savez dire pourquoi une règle sur le chemin du code vaut mieux qu’une règle écrite.
Vérifiez par vous-même
Touchez ou cliquez une question pour voir la réponse.
Un collègue ajoute un PDF : « l’agent ne paie jamais sans validation ». Le code de paiement, lui, s’exécute toujours seul. Que changeriez-vous ?
Mettre la règle sur le chemin : le code de paiement attend lui-même une signature. Une promesse écrite n’arrête rien.
Ancien CTO d’Integra. Auteur nommé (1 sur 5) d’ERC-3643, premier auteur d’ERC-6960, co-auteur d’ERC-7410 et co-auteur d’ERC-8203, encore à l’état de brouillon. Conçoit des systèmes d’IA en production et des systèmes Web3 régulés.
Un projet à livrer ou un poste à pourvoir ?
Parlons de votre besoinSuivre les notes techniques
Recevez les nouveaux articles sur l’IA en production et les smart contracts par email.