■ espace · les deux garages

LA VISITE

Dites ce que vous venez chercher. Les garages vous répondent.

LE CHOIX : Ollama — le garage de service. Il démarre au boot et répond sur le :11434 pendant que votre machine reste sans souris.

# the whole handshake
curl -fsSL https://ollama.com/install.sh | sh
ollama pull qwen2.5-coder:7b
curl http://localhost:11434/api/chat -d '{
  "model": "qwen2.5-coder:7b",
  "messages": [{"role":"user","content":"Explain bash exit codes in two lines"}],
  "stream": false
}'

# Developer tab → start server — or the lms CLI
lms server start
lms load qwen2.5-coder-7b-instruct --gpu max
curl http://localhost:1234/v1/chat/completions \\
  -H "Content-Type: application/json" \\
  -d '{"model":"qwen2.5-coder-7b-instruct","messages":[{"role":"user","content":"Write a jq filter for the top process by CPU"}]}'

le tiroir licences : Ollama est MIT — vous ne devez que la licence du modèle (Llama, Mistral, Qwen et Gemma portent chacun leurs propres conditions). LM Studio est gratuit pour un usage personnel ; l'usage professionnel passe par son drapeau licence-travail gratuit, et les entreprises au-dessus d'un certain seuil de revenus paient. La direction achats pose la question — cette rangée clos le débat.

CE QUE LA COLONNE PROCESSEUR VOUS DIT

Ollama détecte CUDA, Metal et ROCm au lancement et déporte tout ce qui tient. Le test tient en une commande — la réponse en un mot. Retournez-la :

# what did Ollama actually load — GPU or CPU?
ollama ps

# force the issue if it silently fell back to CPU:
OLLAMA_NUM_GPU=999 ollama run qwen2.5-coder:7b

OLLAMA_NUM_GPU remplace le nombre de couches — grand nombre : tout sur la carte ; 0 : CPU uniquement. Une sonde — la vraie solution, c'est un quant qui rentre.

LM Studio expose le même contrôle via un curseur d'offload GPU par modèle — plus agréable à manipuler, l'une de ses vraies qualités.

LA VITESSE, TRANCHÉE

Même modèle, même quantisation, même matériel : match nul — les deux délèguent à llama.cpp. Les écarts annoncés comparent en général des quants ou des contextes différents. Mesurez sur votre machine :

# Ollama: --verbose prints eval rate (tokens/sec) at the end
ollama run qwen2.5-coder:7b --verbose "Summarise what a Makefile does in one sentence."

Dans LM Studio, chargez le même GGUF avec contexte et couches GPU identiques ; regardez les tokens/s dans le panneau de stats. Refaites tourner deux fois — le premier chargement, c'est du bruit de chauffe.

TROUVEZ VOTRE RANGÉE

Règles simples, sans regret dans un sens comme dans l'autre :

1. Vous voulez utiliser des modèles — discuter, essayer, jouer avec les curseurs : LM Studio.
2. Vous voulez construire sur les modèles — scripts, agents, CI, un service API maison : Ollama.
3. Vous voulez les deux — installez les deux ; ils cohabitent très bien. Empêchez juste les deux serveurs de revendiquer le même port, et retenez qu'un modèle chargé deux fois mange la VRAM deux fois.

Tous deux comprennent le GGUF et pilotent la même lignée — Ollama embarque llama.cpp ; LM Studio utilise des runtimes basés sur llama.cpp. Même fichier, même sortie ; les outils diffèrent autour du modèle.

Les modèles locaux s'accordent particulièrement bien avec les outils de codage agentiques : pointez un client compatible OpenAI vers votre endpoint — complétions illimitées à coût par token nul. La seule facture, c'est l'électricité.

fin des deux garages · rien de récupéré · tout est local