93 632 estrellas en GitHub desde febrero de 2023, y los requisitos de instalación siguen abriendo con una sola línea: "OS: Linux. Python 3.10–3.13." La nota WSL de la doc es el post entero — aquí está el depósito que levantó: tres puertas, una con soporte.
No existe ninguna build nativa de Windows. Los docs de instalación listan un solo OS: Linux — palabras suyas, no mías.
Sí, puedes hacerlo correr: WSL2. Ubuntu dentro de Windows, el driver NVIDIA del lado de Windows, y el mismo pip install vllm.
Saltar WSL paga el impuesto del fork — tú eres el QA. ¿Usuario solo? Ollama corre en Windows nativamente.
un muro, dos patios, tres puertas — la gpu cruza por el tubo, nunca en una maleta
RUTA 1 · WSL2 — PASO OK · DRIVER DEL LADO DE WINDOWS · VEREDICTO PASA
la caja es una petición — la tecla 1 la hace pasar por WSL2 mientras el tubo del techo cruza la gpu; las puertas 2 y 3 cuestan lo que dicen los carteles
"vLLM no soporta Windows nativamente. Para correr vLLM en Windows, puedes usar el Subsistema de Windows para Linux (WSL) con una distribución Linux compatible,
o usar algunos forks mantenidos por la comunidad." — los docs de instalación, textual. La primera mitad es el muro; la segunda mitad es este post.
una línea en powershell, la instalación linux normal adentro — el driver nunca se mueve
# PowerShell (Admin) — then reboot when it asks:
wsl --install -d Ubuntu# inside Ubuntu — the normal Linux install, nothing Windows-specific:
uv venv --python 3.12 && source .venv/bin/activate
uv pip install vllm --torch-backend=auto
# serve something small and prove the GPU passed through:
vllm serve Qwen/Qwen3-0.6B --port 8000curl http://localhost:8000/v1/models
# WSL2 forwards localhost — the model comes back as JSONverificación: curl http://localhost:8000/v1/models desde Windows — WSL2 reenvía el localhost, tu modelo vuelve en JSON
los docs nombran la escena ellos mismos: "algunos forks mantenidos por la comunidad" — el censo, leído el 2026-10-12
| fork | el registro | verdict |
|---|---|---|
| SystemPanic/vllm-windows | 663 estrellas, pusheado la víspera de este post | el vivo — ruedas nativas, CUDA 13, Blackwell, NCCL multi-GPU |
| devnen/vllm-windows | 28 estrellas, último push mayo 2026. | cinco meses callado — un aviso de retiro en un proyecto tan rápido |
| dexteri-ai/vllm-windows | envoltorio de GUI, creado enero 2026 | maneja vLLM dentro de WSL2 — el camino que finge saltarse |
"vLLM solo puede correr plenamente en Linux."
— la doc, sobre el porqué: los kernels CUDA y NCCL solo existen enteros ahí. Los forks prueban la reobra de MSVC por lo pocos que sobreviven.
el gguf apila un candado de hardware sobre el candado del os — ambos giran, o ninguno
Sí — por WSL2, en una GPU NVIDIA o AMD.
GGUF en vLLM es solo-GPU. En una caja Windows solo-CPU, el mismo archivo corre en Ollama o llama.cpp — ambos nativos.
| Path | ¿vLLM? | Montaje | Ideal para |
|---|---|---|---|
| vLLM dentro de WSL2 | motor completo | una línea + reinicio | servir a un equipo desde una GPU |
| fork nativo SystemPanic | casi completo, tú lo pruebas | compilar, perseguir CUDA | WSL bloqueado por política, GPU conectada |
| vLLM en una caja Linux, Windows como cliente | motor completo, en otro sitio | cualquier cliente compatible con OpenAI | la GPU vive en otra habitación de todos modos |
| Ollama, native | no — motor distinto | un instalador | uso solo, GGUF, 127.0.0.1:11434 |
| llama.cpp, native | no — motor distinto | binarios Windows | un usuario, la mayor cobertura de quants |
si la pregunta era solo "correr un modelo en mi caja Windows" — ollama, nativo, sirviendo en 127.0.0.1:11434. la puerta 3 nunca fue una puerta hacia vllm.
fin de las tres puertas · nada descargado · todo en local