Aller au contenu

OrganisationExpert7 min de lecture

Partie VI. Compliance : la preuve par les logs et les traces

Une instrumentation bien posée fournit les preuves que demandent les régulateurs : la matrice AI Act, NIS2, RGPD et la séparation entre contenu et métadonnées.

Pour : architectes · finance, risque et conformitéPrérequis : Avoir lu la partie I ; notions de journalisation et de rétention des données.

Scénario illustratif. Un auditeur demande à l’équipe de montrer que l’assistant enregistre bien ses décisions, que les journaux sont gardés au moins six mois et qu’un humain peut reprendre la main. L’équipe pourrait rédiger un dossier de cinquante pages. Elle peut aussi ouvrir ses traces : chaque appel y est horodaté, chaque passage à l’humain y est compté, la politique de rétention y est réglée.

C’est le principe de cette partie. Une bonne instrumentation produit, comme sous-produit, les preuves exigées par la réglementation, de la même façon qu’un chronotachygraphe de camion sert à la fois au transporteur et au contrôleur routier. La matrice ci-dessous relie chaque obligation à son thème, à celui qui la porte et au signal qui en apporte la preuve.

Je le précise d’emblée : c’est une matrice de travail, pas un avis juridique. La correspondance précise, article par article, doit être validée avec le service juridique et le DPO, le délégué à la protection des données.

L’AI Act, le règlement européen sur l’intelligence artificielle, répartit les obligations selon deux critères. Le premier est le rôle : le fournisseur met le système sur le marché, le déployeur l’utilise dans son activité. Une entreprise qui achète un assistant et le met à disposition de ses salariés est déployeur. Le second critère est le niveau de risque. La plupart des lignes de la matrice ne visent que les systèmes à haut risque. L’article 50 fait exception : il vise tout système qui dialogue avec des personnes ou génère du contenu, quel que soit son niveau de risque.

Quelques sigles de la matrice : le SOC est le centre opérationnel de sécurité. Le MTTD (mean time to detect) est le temps moyen pour détecter un incident, le MTTR (mean time to recovery) le temps moyen pour rétablir le service. Le tool pinning est l’épinglage des outils par empreinte, décrit en partie III.

Thème d’obligationTexte et articleQui, pour quels systèmesSignal qui produit la preuve
Journalisation et traçabilité : le système enregistre automatiquement les événements pendant toute sa durée de vieAI Act, art. 12fournisseur, haut risqueTraces de bout en bout horodatées avec trace_id, journal d’invocation d’outils, versions de modèle et de pipeline dans les spans
Documentation technique : description du système, des données, des méthodes d’évaluation et de surveillanceAI Act, art. 11fournisseur, haut risqueHistorique des évaluations, configuration versionnée
Transparence et information des déployeurs : notice d’utilisation (performances attendues, limites, moyens de collecter et d’interpréter les journaux)AI Act, art. 13fournisseur, haut risqueAttribution du modèle, capture de contenu contrôlée, versionnage du prompt, tableaux de bord et seuils documentés
Contrôle humainAI Act, art. 14fournisseur, haut risqueTaux de passage à l’humain, points de validation, garde-fous tracés
Exactitude, robustesse et cybersécuritéAI Act, art. 15fournisseur, haut risqueSLO de qualité, évals continues, détection de dérive
Surveillance après commercialisation : collecter et analyser les données de performance tout au long de la vie du systèmeAI Act, art. 72fournisseur, haut risqueScores qualité, dérive, coût, alertes
Surveillance du fonctionnement : surveiller le système selon la notice, signaler les risquesAI Act, art. 26, paragraphe 5déployeur, haut risqueAlertes, procédures d’escalade vers le fournisseur
Conservation des journaux générés automatiquement : au moins six mois, sauf autre disposition du droit de l’Union ou nationalAI Act, art. 19 (fournisseurs) et art. 26, paragraphe 6 (déployeurs)fournisseur et déployeur, haut risquePolitique de rétention documentée, rétention horodatée des traces et des journaux réglée en conséquence
Transparence envers les personnes : informer la personne qu’elle échange avec une IA, marquer les contenus générésAI Act, art. 50fournisseur et déployeur, tout système qui interagit avec des personnes ou génère du contenuL’obligation relève du produit, pas de l’observabilité ; les traces peuvent seulement attester l’affichage de l’information « vous parlez à une IA » et le marquage des contenus
Gestion des incidentsNIS2, art. 21, paragraphe 2, point b)entités essentielles et importantesAlerting sécurité, remontée SOC, MTTD et MTTR mesurés
Notification d’incident : alerte précoce sous 24 h, notification sous 72 h, rapport final dans un délai d’un moisNIS2, art. 23entités essentielles et importantesHorodatage de la détection, chronologie reconstituée à partir des traces
Sécurité de la chaîne d’approvisionnementNIS2, art. 21, paragraphe 2, point d)entités essentielles et importantesTool pinning, détection de mutation, échecs d’authentification
Minimisation des donnéesRGPD, art. 5, paragraphe 1, point c)responsable du traitementContenu opt-in, masquage au collecteur
Protection des données dès la conception et par défautRGPD, art. 25responsable du traitementAucune capture de contenu par défaut, rétention séparée, traçabilité des données personnelles

Textes : AI Act, règlement (UE) 2024/1689 ; NIS2, directive (UE) 2022/2555 ; RGPD, règlement (UE) 2016/679. Articles vérifiés le 2 octobre 2026. Les lignes des articles 11 et 72 et celle de l’article 26, paragraphe 5 viennent du tableau fournisseur et déployeur de la formation, module 5, fusionné ici le 4 octobre 2026. Les obligations NIS2 s’appliquent à travers la loi nationale de transposition.

Une stack OpenTelemetry bien posée fournit la matière technique de ces obligations : journaux, mesures de performance, historique. Elle ne fait pas tout. Il reste à qualifier votre système et votre rôle, à documenter et à tenir le dispositif dans la durée.

Une ligne mérite une remarque. L’article 50 impose de dire à la personne qu’elle parle à une IA et de marquer les contenus générés. C’est une obligation du produit, pas de l’observabilité ; les traces peuvent seulement attester que l’information a bien été affichée.

Un cabinet médical garde deux classeurs. Le registre des rendez-vous (qui est venu, quand, combien de temps) se consulte librement et se garde longtemps. Le dossier médical, lui, est sous clé, accessible à peu de personnes et soumis à des règles strictes.

Je recommande la même règle pour une application d’IA. D’un côté, le contenu : ce que l’utilisateur a écrit et ce que le modèle a répondu. Il est sensible, gardé peu de temps, d’accès restreint et expurgé des données personnelles. De l’autre, les métadonnées des traces : quel modèle, combien de jetons, quelle durée, quelle erreur. Elles prennent peu de valeurs différentes (faible cardinalité), se gardent longtemps et s’exploitent librement. C’est le pattern de contenu externe d’OpenTelemetry décrit en partie I, étendu à toute la stack.

Reste la question de la souveraineté, c’est-à-dire savoir sous quel droit et dans quel pays vivent vos données. Auto-héberger les backends (par exemple VictoriaMetrics ou Prometheus, VictoriaLogs ou Loki, Grafana, Langfuse ou Phoenix) permet de choisir où elles résident.

Imprimez la matrice et apportez-la à votre prochain échange avec le service juridique et le DPO. Commencez par établir votre rôle (fournisseur ou déployeur) et le niveau de risque de votre système : selon les réponses, une bonne partie des lignes ne vous concerne pas. Pour celles qui restent, notez à côté de chacune le signal que vous produisez déjà et celui qui manque.


Révisé le 2 octobre 2026 : ajout des articles de chaque texte et du calendrier issu du règlement (UE) 2026/1744 qui modifie l’AI Act.

Révisé le 4 octobre 2026 : fusion du tableau AI Act fournisseur et déployeur de la formation (module 5) dans la matrice, qui gagne une colonne « qui », les articles 11 et 72 et l’article 26, paragraphe 5 ; le calendrier n’est donné qu’une fois, dans l’encadré.

Révisé le 25 octobre 2026 : page réécrite pour un public plus large (scénario d’ouverture, rôles et sigles expliqués), sans changement de fond.