Aller au contenu

TechniqueDécouverte2 min de lecture

Comprendre le calcul haute performance

Une introduction sans code au HPC : pourquoi on relie des centaines de machines, comment un cluster est fait, comment un calcul y tourne et pourquoi l'IA à grande échelle en dépend.

Pour : ingénieurs et SRE · architectes · managers d’équipe · direction et DSIPrérequis : Aucun.

Mode de lecture

Chaque matin, un service météo doit publier la prévision des jours suivants. Pour la produire, il découpe l’atmosphère de toute la planète en petits cubes et calcule, cube par cube, comment l’air, l’eau et la chaleur vont évoluer. Le nombre d’opérations est tel qu’un ordinateur de bureau, même excellent, y passerait des semaines : la prévision arriverait longtemps après le temps qu’elle annonce.

L’exemple est simplifié, mais il dit l’essentiel. Quand un problème est trop gros pour une seule machine, on en relie des centaines, parfois des milliers, puis on les fait travailler ensemble comme si elles n’en formaient qu’une. C’est le calcul haute performance, ou HPC (High Performance Computing). On parle aussi de supercalculateur ou, plus simplement, de cluster : une grappe de machines.

Cette formation s’adresse aux débutants et aux profils non techniques. Elle ne demande aucun prérequis, ni code ni connaissance du réseau. À la fin, vous devriez pouvoir suivre n’importe quelle discussion sur le HPC, comprendre son vocabulaire et poser les bonnes questions.

Trois situations poussent vers le HPC. La première est un volume de calcul énorme : le nombre d’opérations dépasse de plusieurs ordres de grandeur ce qu’un processeur fait en un temps raisonnable. La deuxième, des données trop grandes : le jeu de données ne tient pas dans la mémoire d’une seule machine, il faut le répartir. La troisième, un délai contraint. Une prévision météo qui arrive deux semaines après ne sert à rien, même si elle est juste.

Dans les trois cas, la réponse est la même : relier de nombreuses machines pour qu’elles travaillent ensemble comme une seule.

Faire beaucoup de choses en même temps, sur beaucoup de machines, sur le même problème.

On y gagne en vitesse, puisqu’on fait en quelques heures ce qui prendrait des semaines. On y gagne aussi en taille : on peut traiter des problèmes qui ne tiennent pas dans une seule machine.

Les trois leçons posent les idées de base avec des comparaisons de la vie courante, puis le vocabulaire qu’on entend dans les équipes de calcul. Elles décrivent les cinq composants d’un cluster, suivent un calcul de sa soumission à son résultat et expliquent pourquoi l’IA moderne tourne sur les mêmes machines que la simulation scientifique.

  1. Anatomie d’un cluster : les cinq composants et la vie d’un job.
  2. Le parallélisme : trois façons de répartir le travail et les limites du passage à l’échelle.
  3. HPC et IA : deux mondes devenus un et ce que cela change pour l’observabilité.

Vous ne trouverez ici ni code source ni configuration système. Pour la supervision d’un cluster, passez ensuite à Observabilité HPC : les fondamentaux.