Aller au contenu

TechniquePratique

Glossaire de la formation VictoriaMetrics

Pour : ingénieurs et SRE · architectesPrérequis : Aucun.

Anomaly score (score d’anomalie) : métrique (anomaly_score) produite par vmanomaly, le composant de détection d’anomalies de l’offre Enterprise de VictoriaMetrics, puis stockée dans VictoriaMetrics. Une valeur supérieure à 1 signale une anomalie. Ce n’est pas une fonction MetricsQL ; avec la version open source, un z-score calculé en MetricsQL joue un rôle comparable.

Budget d’erreur (error budget) : marge d’erreur tolérée par le SLO sur une fenêtre donnée.

Cache KV (KV cache) : cache des clés et valeurs d’attention d’un modèle Transformer pendant l’inférence.

Cardinalité : nombre de séries temporelles uniques (combinaisons d’un nom de métrique et de valeurs de labels).

Chunk : fragment de document indexé dans une base vectorielle pour le RAG.

Compteur (counter) : type de métrique qui ne fait qu’augmenter (sauf remise à zéro). Exemple : nombre total de requêtes.

DCGM : NVIDIA Data Center GPU Manager. Source des métriques GPU en temps réel.

Dérive d’index (index drift) : dérive du score de recherche après une réindexation, signe d’un changement d’embedding ou de corpus.

Embedding : représentation vectorielle d’un texte, calculée par un modèle d’embedding.

Fan-out : effet multiplicateur de cardinalité dû aux combinaisons de labels.

Histogramme : type de métrique qui répartit les observations dans des intervalles (buckets) pour estimer des quantiles.

Jauge (gauge) : type de métrique qui peut monter et descendre. Exemple : utilisation d’un GPU.

Latence P99 : 99e centile de la latence : 99 % des requêtes sont plus rapides.

LiteLLM : proxy qui expose les API d’OpenAI, d’Anthropic, de Mistral et d’autres derrière une interface commune.

MetricsQL : langage de requête de VictoriaMetrics, largement compatible avec PromQL et enrichi de fonctions supplémentaires.

Mode Cluster (VM) : déploiement de VictoriaMetrics en trois composants (vminsert, vmstorage, vmselect) pour une montée en charge horizontale.

Mode Single (VM) : déploiement de VictoriaMetrics en binaire unique. La documentation de l’éditeur le recommande pour une ingestion inférieure à environ un million de points par seconde (recommandation, pas une limite dure).

OpenTelemetry (OTel) : standard d’instrumentation pour les traces, les métriques et les journaux.

OTLP : OpenTelemetry Protocol, sur gRPC ou HTTP (encodage Protobuf ou JSON), utilisé pour exporter la télémétrie.

Pression de contexte (context pressure) : rapport entre les tokens utilisés et la fenêtre de contexte du modèle. Au-delà de 0,85, la troncature devient un risque.

Prompt template (gabarit de prompt) : squelette de prompt avec variables, versionné comme du code.

RAG : Retrieval Augmented Generation, enrichissement d’un prompt par des documents retrouvés.

Règle d’enregistrement (recording rule) : règle qui précalcule une métrique dérivée et la stocke comme nouvelle série.

Remote write : protocole qui pousse les métriques de Prometheus ou de vmagent vers une TSDB distante.

Score de recherche (retrieval score) : score de similarité (de 0 à 1) entre une question et les chunks renvoyés par le RAG.

SLA : Service Level Agreement, engagement contractuel envers un client externe.

SLI : Service Level Indicator, la métrique mesurée.

SLO : Service Level Objective, cible interne fixée sur le SLI.

Taux d’hallucination : taux estimé de réponses non factuelles, mesuré par des évaluateurs ou des heuristiques.

Taux de consommation (burn rate) : vitesse à laquelle le budget d’erreur est consommé. Un taux de 1 correspond à une consommation linéaire sur la fenêtre du SLO.

Tenant : client logique d’une plateforme multi-tenant, isolé par tenant_id.

Token : unité de texte (souvent un morceau de mot) traitée par un LLM et facturée par les fournisseurs.

TSDB : Time Series Database, base de séries temporelles. VictoriaMetrics, Prometheus et InfluxDB sont des TSDB.

TTFT : Time To First Token, latence avant le premier token d’une réponse en streaming.

vLLM : moteur d’inférence open source haute performance pour les LLM.

vmagent : composant VictoriaMetrics qui collecte les cibles et envoie les données par remote write.

vmalert : composant VictoriaMetrics qui évalue les règles d’alerte et d’enregistrement.

vmauth : proxy inverse VictoriaMetrics avec authentification et routage par utilisateur ou par tenant.

vmselect : composant du mode Cluster qui sert les requêtes.

vmstorage : composant du mode Cluster qui stocke les données.

vmui : interface web intégrée de VictoriaMetrics.

VRAM : mémoire vidéo d’un GPU (HBM, GDDR). Elle limite la taille du modèle chargeable.

Z-score : nombre d’écarts types qui séparent une valeur de la moyenne d’une fenêtre de référence. Utilisé ici pour détecter une dérive du score de recherche sans vmanomaly.