Schéma en 3D : l'IA en coupe

Mode de lecture

IngénieurDécideur

Une application d’IA générative ressemble à un gâteau à cinq étages : les données en bas, puis l’infrastructure de calcul, le modèle, l’orchestration (prompts, recherche documentaire, agents) et enfin l’application que voit l’utilisateur. Chaque couche peut dériver, chaque couche peut être attaquée. Ce schéma en vue éclatée ouvre la pile : cliquez sur une dalle pour lire sa fiche, basculez entre les signaux à Observer et les Risques, puis envoyez une requête pour suivre sa trace de haut en bas, aller et retour.

Où se situe ce contenu

1. 1. DécouvrirL’IA en coupe (vous êtes ici)les cinq couches, où chercher
2. 2. ComprendreComprendre l’observabilité de l’IA générativeconcepts et définitions
3. 3. PratiquerObservabilité des LLM : les labsles mains dans le cambouis, sur une pile autohébergée
4. 4. Mettre en productionLes playbooks, puis VictoriaMetrics pour les LLMpile de production, conventions OpenTelemetry, licences
5. 5. MaîtriserMéthode d’observabilité GenAISLO de qualité, impact chiffré, conformité, RACI
6. 6. Aller au-delàAu-delà du LLM : GPU et qualité des modèlesinfrastructure GPU, ML classique, dérive statistique

↺ TournerTourner ↻

AssemblerÉclater

ObserverRisques

Envoyer une requête

Faites glisser la pile pour la tourner, puis cliquez sur une couche (ou Entrée au clavier) pour ouvrir sa fiche. Les couches vont de la donnée, en bas, à l’application, en haut.

Données

• Fraîcheur et couverture des sources
• Distribution des entrées par rapport à la référence
• Données personnelles détectées dans les journaux

• Dérive des données : les questions des utilisateurs changent
• LLM04Empoisonnement des données ou du modèle
• Sources périmées ou incomplètes

Infrastructure

• Latence du premier token (TTFT)
• Tokens par seconde, file d’attente, mémoire GPU
• Coût par requête

• Saturation et files d’attente
• LLM10Consommation non bornée : coût qui s’emballe
• Un GPU occupé ne dit rien de la qualité

Modèle

• Score qualité par évaluation automatique
• Écart par rapport à un jeu de référence
• Version exacte du modèle à chaque appel

• LLM09Hallucinations et désinformation
• Dérive de concept : le monde change, pas le modèle
• Mise à jour silencieuse chez le fournisseur

Orchestration

• Trace de bout en bout de chaque requête (OpenTelemetry)
• Pertinence des documents retrouvés
• Tokens et appels d’outils par requête

• LLM01Injection de prompt
• Dérive de pipeline : découpage ou gabarit modifié en silence
• LLM06Agent aux droits trop larges

Application

• Retours des utilisateurs et abandons
• Violations de la politique de contenu
• Données personnelles détectées en sortie

• LLM02Fuite d’informations sensibles en sortie
• Contournement des garde-fous
• Perte de confiance avant toute plainte

Ce qu’il faut observer, couche par couche

Ce qui peut mal tourner, couche par couche

• Application
  • Retours des utilisateurs et abandons
  • Violations de la politique de contenu
  • Données personnelles détectées en sortie
  • OWASP LLM02Fuite d’informations sensibles en sortie
  • Contournement des garde-fous
  • Perte de confiance avant toute plainte
• Orchestration
  • Trace de bout en bout de chaque requête (OpenTelemetry)
  • Pertinence des documents retrouvés
  • Tokens et appels d’outils par requête
  • OWASP LLM01Injection de prompt
  • Dérive de pipeline : découpage ou gabarit modifié en silence
  • OWASP LLM06Agent aux droits trop larges
• Modèle
  • Score qualité par évaluation automatique
  • Écart par rapport à un jeu de référence
  • Version exacte du modèle à chaque appel
  • OWASP LLM09Hallucinations et désinformation
  • Dérive de concept : le monde change, pas le modèle
  • Mise à jour silencieuse chez le fournisseur
• Infrastructure
  • Latence du premier token (TTFT)
  • Tokens par seconde, file d’attente, mémoire GPU
  • Coût par requête
  • Saturation et files d’attente
  • OWASP LLM10Consommation non bornée : coût qui s’emballe
  • Un GPU occupé ne dit rien de la qualité
• Données
  • Fraîcheur et couverture des sources
  • Distribution des entrées par rapport à la référence
  • Données personnelles détectées dans les journaux
  • Dérive des données : les questions des utilisateurs changent
  • OWASP LLM04Empoisonnement des données ou du modèle
  • Sources périmées ou incomplètes

À essayer

1. Ouvrez la couche Modèle. Il prédit le mot suivant le plus probable sans vérifier les faits : sa qualité ne se lit ni dans la latence ni dans l’occupation des GPU, mais dans un score d’évaluation automatique.
2. Passez en mode Risques et repérez les identifiants OWASP. L’injection de prompt (LLM01) vise l’orchestration, la fuite d’informations sensibles (LLM02) l’application, l’empoisonnement (LLM04) les données.
3. Envoyez une requête. Elle traverse les cinq couches à l’aller puis au retour : c’est la trace qui relie leurs signaux et dit où chercher.

La version vidéo

La même coupe en 2 min 21, couche par couche, avec une requête qui traverse toute la pile.

Lire le texte de la vidéo

Votre tableau de bord est au vert. Pourtant, votre assistant d’IA répond faux depuis des semaines. Une IA ne tombe pas en panne : elle se dégrade en silence. Une application d’IA générative, c’est une pile de cinq couches. Chacune peut dériver, chacune peut être attaquée. Ouvrons-la, couche par couche, en partant du bas.

Couche 1 : Données. Le carburant : documents internes, bases de connaissances, données d’entraînement et de RAG.

Ce qui peut mal tourner : Dérive des données : les questions des utilisateurs changent ; Empoisonnement des données ou du modèle (OWASP LLM04) ; Sources périmées ou incomplètes.

Ce qu’il faut observer : Fraîcheur et couverture des sources ; Distribution des entrées par rapport à la référence ; Données personnelles détectées dans les journaux.

Couche 2 : Infrastructure. La puissance de calcul : GPU, serveurs d’inférence, cloud ou cluster.

Ce qui peut mal tourner : Saturation et files d’attente ; Consommation non bornée : coût qui s’emballe (OWASP LLM10) ; Un GPU occupé ne dit rien de la qualité.

Ce qu’il faut observer : Latence du premier token (TTFT) ; Tokens par seconde, file d’attente, mémoire GPU ; Coût par requête.

Couche 3 : Modèle. Il prédit le mot suivant le plus probable ; il ne vérifie pas les faits.

Ce qui peut mal tourner : Hallucinations et désinformation (OWASP LLM09) ; Dérive de concept : le monde change, pas le modèle ; Mise à jour silencieuse chez le fournisseur.

Ce qu’il faut observer : Score qualité par évaluation automatique ; Écart par rapport à un jeu de référence ; Version exacte du modèle à chaque appel.

Couche 4 : Orchestration. La colle : prompts, recherche documentaire (RAG), agents et appels d’outils.

Ce qui peut mal tourner : Injection de prompt (OWASP LLM01) ; Dérive de pipeline : découpage ou gabarit modifié en silence ; Agent aux droits trop larges (OWASP LLM06).

Ce qu’il faut observer : Trace de bout en bout de chaque requête (OpenTelemetry) ; Pertinence des documents retrouvés ; Tokens et appels d’outils par requête.

Couche 5 : Application. Ce que voit l’utilisateur : assistant, chatbot, fonction métier.

Ce qui peut mal tourner : Fuite d’informations sensibles en sortie (OWASP LLM02) ; Contournement des garde-fous ; Perte de confiance avant toute plainte.

Ce qu’il faut observer : Retours des utilisateurs et abandons ; Violations de la politique de contenu ; Données personnelles détectées en sortie.

Une requête traverse les cinq couches, aller et retour. La trace relie leurs signaux : c’est elle qui dit où chercher.

Observer l’IA, de la donnée à la réponse : www.meantimetolearn.com.

Musique : « Radar Focus », Blue Saga (Epidemic Sound).

Étape suivante

Une fois les cinq couches repérées, l’étape suivante est de comprendre ce qu’on observe à chacune : le guide Comprendre l’observabilité de l’IA générative pose les signaux, les types de systèmes et les niveaux de maturité.

Pour aller plus loin

• Observabilité des LLM : les labs : conventions GenAI d’OpenTelemetry et instrumentation pas à pas
• Comprendre l’observabilité de l’IA générative : types de systèmes, maturité, évaluateurs
• Observer un système LLM : playbooks de déploiement d’une pile open source (LLM, RAG, MCP)
• OpenTelemetry de bout en bout : la trace qui relie les couches
• Les couches de l’observabilité : la même idée de pile, du capteur d’atelier au modèle d’IA

Sources : OWASP Top 10 for LLM Applications 2025.

Révisé le 4 octobre 2026 : encart de progression ajouté, étape suivante vers le guide.

PasserellesCe que cette page change au-delà de l'équipe technique.

BusinessValeur, coût, risque

Un assistant d'IA ne tombe pas en panne : il se dégrade en silence. Le coût par requête et la consommation non bornée se lisent dans l'infrastructure, la perte de confiance des utilisateurs dans l'application, souvent avant toute plainte.

OrganisationQui décide, qui possède

Les cinq couches ont rarement le même propriétaire : équipe données, plateforme, fournisseur du modèle, développeurs de l'orchestration, produit. La trace de bout en bout est le seul objet qu'elles partagent.

HumainÉquipes, astreinte, compétences

Le mode Risques pose les identifiants OWASP sur la pile que l'exploitation observe : la sécurité et l'observabilité regardent les mêmes couches, une raison de lire les mêmes signaux.

MétiersProduit, finance, risque, relation client

Pour un métier qui déploie un assistant, le schéma répond à une question simple : à quel étage chercher quand les réponses deviennent fausses alors que le tableau de bord reste au vert.

Pourquoi des passerelles →