TechniquePratique3 min de lecture (+1 technique)
Que se passe-t-il pendant une requête ?
Trois traces OpenTelemetry à parcourir étape par étape : un assistant d'IA qui fonctionne normalement, le même en échec silencieux et un paiement en ligne ralenti.
Pour : ingénieurs et SREPrérequis : Notions de base sur les traces distribuées.
Scénario illustratif : un lundi, l’assistant d’IA du support répond plus vite que d’habitude et coûte moins cher. Le tableau de bord ne montre aucune erreur. Le mardi, les premiers clients se plaignent de réponses à côté de la plaque. Le tableau de bord disait que tout allait bien. Il ne disait pas ce qui se passait à l’intérieur de chaque requête.
C’est le rôle d’une trace. Pensez au suivi d’un colis : départ de l’entrepôt, passage au centre de tri, chargement dans le camion, livraison, avec l’heure de chaque étape et les incidents éventuels. Une trace fait la même chose pour une requête. Elle la découpe en étapes imbriquées, appelées spans, chacune avec sa durée, son statut (réussie ou en erreur) et des attributs, c’est-à-dire des informations attachées (la version de configuration, le nombre de documents consultés, le nombre de mots traités par le modèle). Un tableau de bord dit qu’une requête est lente ou en erreur. La trace dit où et pourquoi.
Les trois traces ci-dessous sont construites à la main. Deux concernent un assistant qui cherche dans une base documentaire avant de répondre (un agent RAG, pour retrieval-augmented generation) : l’une en fonctionnement normal, l’autre en échec silencieux. La troisième suit une validation de commande sur un site marchand, pour montrer que la méthode de lecture est la même avec ou sans IA.
Pour les équipes techniques : conventions suivies et exceptions
Les traces suivent les conventions sémantiques OpenTelemetry dans leur état du 2 octobre 2026 : conventions GenAI du dépôt semantic-conventions-genai, encore au statut Development et conventions MCP pour la version de protocole 2025-06-18. La version 2026-07-28 de MCP supprime les sessions ; ces traces gardent 2025-06-18, version de l’exemple de la convention. Une exception, assumée : les spans evaluate sont un choix applicatif hors convention ; les scores, eux, sont portés par l’événement gen_ai.evaluation.result que prévoit la convention.
Contour rouge : span en erreur. Contour ambre : évaluation sous son seuil. Repère « clé » dans le détail : attribut à regarder.
Ce que cette trace raconte
Traces construites à la main pour l'exemple, au format simplifié (temps en millisecondes relatives au début de la trace). Les attributs suivent les conventions sémantiques OpenTelemetry ; celles de l'IA générative, de MCP et de l'évaluation sont encore en développement et peuvent évoluer. Les attributs préfixés app. sont propres à l'application. Les spans « evaluate » sont un choix applicatif hors convention : la convention ne définit pas de span d'évaluation, elle porte les scores dans l'événement gen_ai.evaluation.result, à rattacher de préférence au span de l'opération évaluée, sinon par gen_ai.response.id ; ici, il est placé dans le span applicatif.
À essayer
Section intitulée « À essayer »- Lisez la trace de référence, celle du fonctionnement normal. Repérez les deux appels
chatau modèle : ils représentent l’essentiel de la durée. Comparez leur nombre de jetons en entrée (gen_ai.usage.input_tokens, les morceaux de mots envoyés au modèle) à celui de l’appel d’embeddings, l’étape qui transforme la question en vecteur pour chercher dans la base. - Trouvez l’échec silencieux. Passez à la trace « échec silencieux ». Aucune erreur, statut HTTP 200, requête plus rapide. Seule l’évaluation de fidélité, qui note si la réponse colle aux documents, est marquée « score faible ». Ouvrez-la : son événement
gen_ai.evaluation.resultporte un score de 0,34. Cliquez ensuite surquery kb_support_fr, puis surinvoke_agent. L’attributapp.retrieval.top_k, le nombre de passages récupérés dans la base, vaut 1 et l’événementapp.config.loadeddonne la version de configuration fautive. L’assistant ne lisait plus qu’un seul passage avant de répondre. - Comparez les jetons. La tuile « Jetons LLM » passe d’environ 9 000 à 2 600. Sur un tableau de bord de coût, l’incident ressemble à une optimisation réussie. C’est le lundi du scénario.
- Sortez de l’IA. Sur la trace du site marchand, descendez au clavier (flèches haut et bas) jusqu’à l’étape en erreur. Un délai d’attente de 3 s, puis une nouvelle tentative (
http.request.resend_count), expliquent les 4,3 s ressenties par le client.
Ce qu’il faut retenir
Section intitulée « Ce qu’il faut retenir »La durée se lit de haut en bas, la cause dans les attributs. La cascade montre où passe le temps ; les attributs et les événements disent pourquoi. Une trace sans informations métier, comme la version de configuration, le nombre de passages récupérés ou la clé qui évite de payer deux fois, ne permet pas de conclure.
Un statut « OK » ne garantit pas une bonne réponse. Pour un système qui génère du texte, je recommande de rattacher l’évaluation de la qualité à la trace elle-même. Sans cela, l’échec silencieux reste invisible jusqu’aux plaintes.
Attention enfin aux noms qui se ressemblent. Deux attributs peuvent porter presque le même nom et désigner deux choses différentes : c’est le cas ici, d’où le choix d’un attribut propre à l’application.
Pour les équipes techniques : évaluation et homonymes
La convention prévoit l’événement gen_ai.evaluation.result, rattaché à l’opération évaluée ou, à défaut, à sa réponse par gen_ai.response.id. Ici, chaque événement est placé dans un span d’évaluation applicatif, ce qui rend la durée de l’évaluation visible dans la cascade.
gen_ai.request.top_k désigne l’échantillonnage du modèle, pas le nombre de passages récupérés : c’est pourquoi la trace utilise un attribut applicatif app.retrieval.top_k. La clé d’idempotence est l’attribut métier qui évite qu’un paiement réessayé soit débité deux fois.
Pour aller plus loin : les conventions GenAI dans la formation observabilité des LLM, les trois dérives d’un système RAG dans le module dédié, les SLO de qualité dans la méthode GenAI et la plateforme qui transporte ces traces dans l’architecture cliquable.
Révisé le 2 octobre 2026 : les scores d’évaluation passent dans l’événement gen_ai.evaluation.result de la convention, les spans d’évaluation sont signalés comme un choix applicatif et chaque trace indique sa date de construction et la version des conventions suivies.