Anatomie de vLLMLire le code source top-down

Un site d'apprentissage en français, qui dissèque couche par couche la conception globale de vllm-project/vllm, ce moteur d'inférence LLM à haut débit ; chaque étape pointe en direct vers les lignes correspondantes sur GitHub, version figée à v0.25.1.

Commencer la lecture →

Fil moteur

Ordonnanceur

Dépôt GitHub

Top-down

De EngineArgs → LLMEngine → EngineCore → Scheduler → Executor → Worker/ModelRunner → chargement du modèle → KV Cache → Attention → sampling → distribué, on descend couche par couche.

Localisation du code source

Chaque fichier clé porte un SrcLink ; un clic ouvre directement les lignes correspondantes sur GitHub. La version est figée à v0.25.1, un changement de version ne modifie qu'un seul endroit.

Code réel en ligne

Pas seulement des pointeurs — les 5 à 15 lignes de Python réel des fonctions clés sont collées directement dans la page, encadrées par une explication en français sur ce qui s'y passe.

Motivation de conception et limites

Chaque page couvre les responsabilités, mais aussi pourquoi ce choix de conception, ainsi que les cas aux limites et les modes d'échec.

Architecture v1 et PagedAttention

v0.25 est passé à l'architecture v1 : EngineCore tourne dans un processus arrière ZMQ, le Scheduler fait du batching continu et de la préemption, KVCacheCoordinator + BlockPool implémentent PagedAttention et le prefix caching.

Réutiliser la documentation officielle

Ce site se concentre sur l'anatomie de l'architecture et la localisation du code source ; pour l'installation et l'usage, voir la doc officielle — on ne refait pas la doc utilisateur.