Technique
Glossaire de la formation VictoriaMetrics
Pour : ingénieurs et SRE · architectesPrérequis : Aucun.
Anomaly score (score d’anomalie) : métrique (anomaly_score) produite par vmanomaly, le composant de détection d’anomalies de l’offre Enterprise de VictoriaMetrics, puis stockée dans VictoriaMetrics. Une valeur supérieure à 1 signale une anomalie. Ce n’est pas une fonction MetricsQL ; avec la version open source, un z-score calculé en MetricsQL joue un rôle comparable.
Budget d’erreur (error budget) : marge d’erreur tolérée par le SLO sur une fenêtre donnée.
Cache KV (KV cache) : cache des clés et valeurs d’attention d’un modèle Transformer pendant l’inférence.
Cardinalité : nombre de séries temporelles uniques (combinaisons d’un nom de métrique et de valeurs de labels).
Chunk : fragment de document indexé dans une base vectorielle pour le RAG.
Compteur (counter) : type de métrique qui ne fait qu’augmenter (sauf remise à zéro). Exemple : nombre total de requêtes.
DCGM : NVIDIA Data Center GPU Manager. Source des métriques GPU en temps réel.
Dérive d’index (index drift) : dérive du score de recherche après une réindexation, signe d’un changement d’embedding ou de corpus.
Embedding : représentation vectorielle d’un texte, calculée par un modèle d’embedding.
Fan-out : effet multiplicateur de cardinalité dû aux combinaisons de labels.
Histogramme : type de métrique qui répartit les observations dans des intervalles (buckets) pour estimer des quantiles.
Jauge (gauge) : type de métrique qui peut monter et descendre. Exemple : utilisation d’un GPU.
Latence P99 : 99e centile de la latence : 99 % des requêtes sont plus rapides.
LiteLLM : proxy qui expose les API d’OpenAI, d’Anthropic, de Mistral et d’autres derrière une interface commune.
MetricsQL : langage de requête de VictoriaMetrics, largement compatible avec PromQL et enrichi de fonctions supplémentaires.
Mode Cluster (VM) : déploiement de VictoriaMetrics en trois composants (vminsert, vmstorage, vmselect) pour une montée en charge horizontale.
Mode Single (VM) : déploiement de VictoriaMetrics en binaire unique. La documentation de l’éditeur le recommande pour une ingestion inférieure à environ un million de points par seconde (recommandation, pas une limite dure).
OpenTelemetry (OTel) : standard d’instrumentation pour les traces, les métriques et les journaux.
OTLP : OpenTelemetry Protocol, sur gRPC ou HTTP (encodage Protobuf ou JSON), utilisé pour exporter la télémétrie.
Pression de contexte (context pressure) : rapport entre les tokens utilisés et la fenêtre de contexte du modèle. Au-delà de 0,85, la troncature devient un risque.
Prompt template (gabarit de prompt) : squelette de prompt avec variables, versionné comme du code.
RAG : Retrieval Augmented Generation, enrichissement d’un prompt par des documents retrouvés.
Règle d’enregistrement (recording rule) : règle qui précalcule une métrique dérivée et la stocke comme nouvelle série.
Remote write : protocole qui pousse les métriques de Prometheus ou de vmagent vers une TSDB distante.
Score de recherche (retrieval score) : score de similarité (de 0 à 1) entre une question et les chunks renvoyés par le RAG.
SLA : Service Level Agreement, engagement contractuel envers un client externe.
SLI : Service Level Indicator, la métrique mesurée.
SLO : Service Level Objective, cible interne fixée sur le SLI.
Taux d’hallucination : taux estimé de réponses non factuelles, mesuré par des évaluateurs ou des heuristiques.
Taux de consommation (burn rate) : vitesse à laquelle le budget d’erreur est consommé. Un taux de 1 correspond à une consommation linéaire sur la fenêtre du SLO.
Tenant : client logique d’une plateforme multi-tenant, isolé par tenant_id.
Token : unité de texte (souvent un morceau de mot) traitée par un LLM et facturée par les fournisseurs.
TSDB : Time Series Database, base de séries temporelles. VictoriaMetrics, Prometheus et InfluxDB sont des TSDB.
TTFT : Time To First Token, latence avant le premier token d’une réponse en streaming.
vLLM : moteur d’inférence open source haute performance pour les LLM.
vmagent : composant VictoriaMetrics qui collecte les cibles et envoie les données par remote write.
vmalert : composant VictoriaMetrics qui évalue les règles d’alerte et d’enregistrement.
vmauth : proxy inverse VictoriaMetrics avec authentification et routage par utilisateur ou par tenant.
vmselect : composant du mode Cluster qui sert les requêtes.
vmstorage : composant du mode Cluster qui stocke les données.
vmui : interface web intégrée de VictoriaMetrics.
VRAM : mémoire vidéo d’un GPU (HBM, GDDR). Elle limite la taille du modèle chargeable.
Z-score : nombre d’écarts types qui séparent une valeur de la moyenne d’une fenêtre de référence. Utilisé ici pour détecter une dérive du score de recherche sans vmanomaly.