OrganisationExpert7 min de lecture
Partie VI. Compliance : la preuve par les logs et les traces
Une instrumentation bien posée fournit les preuves que demandent les régulateurs : la matrice AI Act, NIS2, RGPD et la séparation entre contenu et métadonnées.
Pour : architectes · finance, risque et conformitéPrérequis : Avoir lu la partie I ; notions de journalisation et de rétention des données.
22. Matrice de preuve réglementaire
Section intitulée « 22. Matrice de preuve réglementaire »Scénario illustratif. Un auditeur demande à l’équipe de montrer que l’assistant enregistre bien ses décisions, que les journaux sont gardés au moins six mois et qu’un humain peut reprendre la main. L’équipe pourrait rédiger un dossier de cinquante pages. Elle peut aussi ouvrir ses traces : chaque appel y est horodaté, chaque passage à l’humain y est compté, la politique de rétention y est réglée.
C’est le principe de cette partie. Une bonne instrumentation produit, comme sous-produit, les preuves exigées par la réglementation, de la même façon qu’un chronotachygraphe de camion sert à la fois au transporteur et au contrôleur routier. La matrice ci-dessous relie chaque obligation à son thème, à celui qui la porte et au signal qui en apporte la preuve.
Je le précise d’emblée : c’est une matrice de travail, pas un avis juridique. La correspondance précise, article par article, doit être validée avec le service juridique et le DPO, le délégué à la protection des données.
Qui est concerné ?
Section intitulée « Qui est concerné ? »L’AI Act, le règlement européen sur l’intelligence artificielle, répartit les obligations selon deux critères. Le premier est le rôle : le fournisseur met le système sur le marché, le déployeur l’utilise dans son activité. Une entreprise qui achète un assistant et le met à disposition de ses salariés est déployeur. Le second critère est le niveau de risque. La plupart des lignes de la matrice ne visent que les systèmes à haut risque. L’article 50 fait exception : il vise tout système qui dialogue avec des personnes ou génère du contenu, quel que soit son niveau de risque.
Quelques sigles de la matrice : le SOC est le centre opérationnel de sécurité. Le MTTD (mean time to detect) est le temps moyen pour détecter un incident, le MTTR (mean time to recovery) le temps moyen pour rétablir le service. Le tool pinning est l’épinglage des outils par empreinte, décrit en partie III.
| Thème d’obligation | Texte et article | Qui, pour quels systèmes | Signal qui produit la preuve |
|---|---|---|---|
| Journalisation et traçabilité : le système enregistre automatiquement les événements pendant toute sa durée de vie | AI Act, art. 12 | fournisseur, haut risque | Traces de bout en bout horodatées avec trace_id, journal d’invocation d’outils, versions de modèle et de pipeline dans les spans |
| Documentation technique : description du système, des données, des méthodes d’évaluation et de surveillance | AI Act, art. 11 | fournisseur, haut risque | Historique des évaluations, configuration versionnée |
| Transparence et information des déployeurs : notice d’utilisation (performances attendues, limites, moyens de collecter et d’interpréter les journaux) | AI Act, art. 13 | fournisseur, haut risque | Attribution du modèle, capture de contenu contrôlée, versionnage du prompt, tableaux de bord et seuils documentés |
| Contrôle humain | AI Act, art. 14 | fournisseur, haut risque | Taux de passage à l’humain, points de validation, garde-fous tracés |
| Exactitude, robustesse et cybersécurité | AI Act, art. 15 | fournisseur, haut risque | SLO de qualité, évals continues, détection de dérive |
| Surveillance après commercialisation : collecter et analyser les données de performance tout au long de la vie du système | AI Act, art. 72 | fournisseur, haut risque | Scores qualité, dérive, coût, alertes |
| Surveillance du fonctionnement : surveiller le système selon la notice, signaler les risques | AI Act, art. 26, paragraphe 5 | déployeur, haut risque | Alertes, procédures d’escalade vers le fournisseur |
| Conservation des journaux générés automatiquement : au moins six mois, sauf autre disposition du droit de l’Union ou national | AI Act, art. 19 (fournisseurs) et art. 26, paragraphe 6 (déployeurs) | fournisseur et déployeur, haut risque | Politique de rétention documentée, rétention horodatée des traces et des journaux réglée en conséquence |
| Transparence envers les personnes : informer la personne qu’elle échange avec une IA, marquer les contenus générés | AI Act, art. 50 | fournisseur et déployeur, tout système qui interagit avec des personnes ou génère du contenu | L’obligation relève du produit, pas de l’observabilité ; les traces peuvent seulement attester l’affichage de l’information « vous parlez à une IA » et le marquage des contenus |
| Gestion des incidents | NIS2, art. 21, paragraphe 2, point b) | entités essentielles et importantes | Alerting sécurité, remontée SOC, MTTD et MTTR mesurés |
| Notification d’incident : alerte précoce sous 24 h, notification sous 72 h, rapport final dans un délai d’un mois | NIS2, art. 23 | entités essentielles et importantes | Horodatage de la détection, chronologie reconstituée à partir des traces |
| Sécurité de la chaîne d’approvisionnement | NIS2, art. 21, paragraphe 2, point d) | entités essentielles et importantes | Tool pinning, détection de mutation, échecs d’authentification |
| Minimisation des données | RGPD, art. 5, paragraphe 1, point c) | responsable du traitement | Contenu opt-in, masquage au collecteur |
| Protection des données dès la conception et par défaut | RGPD, art. 25 | responsable du traitement | Aucune capture de contenu par défaut, rétention séparée, traçabilité des données personnelles |
Textes : AI Act, règlement (UE) 2024/1689 ; NIS2, directive (UE) 2022/2555 ; RGPD, règlement (UE) 2016/679. Articles vérifiés le 2 octobre 2026. Les lignes des articles 11 et 72 et celle de l’article 26, paragraphe 5 viennent du tableau fournisseur et déployeur de la formation, module 5, fusionné ici le 4 octobre 2026. Les obligations NIS2 s’appliquent à travers la loi nationale de transposition.
Une stack OpenTelemetry bien posée fournit la matière technique de ces obligations : journaux, mesures de performance, historique. Elle ne fait pas tout. Il reste à qualifier votre système et votre rôle, à documenter et à tenir le dispositif dans la durée.
Une ligne mérite une remarque. L’article 50 impose de dire à la personne qu’elle parle à une IA et de marquer les contenus générés. C’est une obligation du produit, pas de l’observabilité ; les traces peuvent seulement attester que l’information a bien été affichée.
23. Séparation contenu et métadonnées
Section intitulée « 23. Séparation contenu et métadonnées »Un cabinet médical garde deux classeurs. Le registre des rendez-vous (qui est venu, quand, combien de temps) se consulte librement et se garde longtemps. Le dossier médical, lui, est sous clé, accessible à peu de personnes et soumis à des règles strictes.
Je recommande la même règle pour une application d’IA. D’un côté, le contenu : ce que l’utilisateur a écrit et ce que le modèle a répondu. Il est sensible, gardé peu de temps, d’accès restreint et expurgé des données personnelles. De l’autre, les métadonnées des traces : quel modèle, combien de jetons, quelle durée, quelle erreur. Elles prennent peu de valeurs différentes (faible cardinalité), se gardent longtemps et s’exploitent librement. C’est le pattern de contenu externe d’OpenTelemetry décrit en partie I, étendu à toute la stack.
Reste la question de la souveraineté, c’est-à-dire savoir sous quel droit et dans quel pays vivent vos données. Auto-héberger les backends (par exemple VictoriaMetrics ou Prometheus, VictoriaLogs ou Loki, Grafana, Langfuse ou Phoenix) permet de choisir où elles résident.
Pour lundi matin
Section intitulée « Pour lundi matin »Imprimez la matrice et apportez-la à votre prochain échange avec le service juridique et le DPO. Commencez par établir votre rôle (fournisseur ou déployeur) et le niveau de risque de votre système : selon les réponses, une bonne partie des lignes ne vous concerne pas. Pour celles qui restent, notez à côté de chacune le signal que vous produisez déjà et celui qui manque.
Révisé le 2 octobre 2026 : ajout des articles de chaque texte et du calendrier issu du règlement (UE) 2026/1744 qui modifie l’AI Act.
Révisé le 4 octobre 2026 : fusion du tableau AI Act fournisseur et déployeur de la formation (module 5) dans la matrice, qui gagne une colonne « qui », les articles 11 et 72 et l’article 26, paragraphe 5 ; le calendrier n’est donné qu’une fois, dans l’encadré.
Révisé le 25 octobre 2026 : page réécrite pour un public plus large (scénario d’ouverture, rôles et sigles expliqués), sans changement de fond.