■ space · 引擎舱

■ 先给答案

Ollama 仓库根目录带着一个叫 LLAMA_CPP_VERSION 的文件,钉住它的引擎——它跑的是 llama.cpp,所以同一个模型文件下,裸速度几乎是平手。

评测当天清晨上游发布的是 b11443;Ollama 钉的是 b11351——外壳永远落在引擎后面。新 flag 会先到 llama.cpp。

记录里的判决:日常驾驶用 Ollama,外壳挡住你要用的 flag 时换 llama.cpp——再配一个 vLLM 当 GPU 服务的逃生口。

引擎舱

两扇门后面是同一个部件。调一下你想接触的引擎深度——货架会回答你。

家电 · ollama

常驻 API :11434 + 给 Apple Silicon 的 MLX 货架
硬件自动识别 · 上下文和卸载层都替你定好
一条命令从仓库拉模型
llama.cpp——引擎 build b11351(已钉住)

机房 · llama.cpp

所有 flag 归你——上下文、卸载、采样器、后端
llama-server——OpenAI 兼容的 HTTP,任何客户端都能指过来
你钉的 build——光评测当天早上就落了 b11438…b11443
llama.cpp——引擎 build b11443(最新)
机房家电

全家电。 拉取、识别和常驻 API 都留着;引擎在底下按 Ollama 钉住的版本嗡嗡转。等你用超了那天,GGUF 文件会跟你走。

llama.cpp 到底是什么

130,473 颗星、MIT 许可证、评测当天早上一口气发了四个版本。llama.cpp 在 2023 年 3 月掀起了本地跑模型的浪潮,还引入了 GGUF——整个生态通用的交易格式。

24,125 个 fork、2,515 个未关 issue,头号贡献者提交数 2,011。发布流读起来像航海日志:下午刚开始就有四个 build(b11438 到 b11443),个个都可供钉住。

验证:curl -s http://127.0.0.1:11434/api/version → 在跑的 Ollama 会应答 · llama-server --version → build 标签,例如 b11443

ollama 难道只是个外壳吗?

是——分界线就印在仓库里。三个版本钉扎文件:LLAMA_CPP_VERSION(评测时是 b11351)、MLX_VERSION、MLX_C_VERSION。llm/llama_server.go 以子进程方式启动这个衍生自 llama.cpp 的服务。

这个依赖是 build 输入,不是公开的秘密。Ollama 加上的是服务:仓库拉取、自动识别、端口 11434 的常驻 API、给 Apple Silicon 的 MLX。

Ollama 是包在一个自己没写过的引擎外面的模型管理和进程卫生。

Ollama 的钉扎与上游当天早上的发布之间隔着 92 个 build。引擎的修复先落上游,几周后才搭上 Ollama 的班车。

九月的 prompt-lookup-drafting 提速在 Hacker News 拿了 89 分——比 Ollama 带上它早了好几周。如果某行 changelog 正好用得上,外壳是最后一个知道的。

那到底哪个更快?

同一个模型文件,谁也不快——引擎是同一个。号称的差距通常在比不同的量化、上下文长度或引擎 build。

真正的差距来自默认值和时间差:Ollama 替你选上下文、替你卸载层——那些 VRAM 惊喜背后的旋钮;llama.cpp 让你亲手设,设漏了还要挨罚。

跑分问题的背后是一个控制权问题。

你不是在两个引擎之间做选择。你是在选择想接触多深的引擎。

记录里对 llama.cpp 不利的话

找到你这行

你想要就跑理由(来自记录)
一条命令加聊天窗口Ollama拉模型、自动识别、常驻 API——家电
所有 flag 加最新 buildllama.cpp可钉的 build、llama-server、后端自选
桌面图形界面LM Studio同一引擎血统,只是带按钮
一块 GPU、多名用户vLLM吞吐量服务——GGUF 的注意事项适用

一条实用的缝:从 Ollama 起步;它跟你作对的那一天——缺 flag、GPU 识别抽风、修复只在更新的 build 里——那件活就下放到 llama.cpp。

模型文件会跟着你走;GGUF 是通用语。家电替你挡住引擎,直到引擎本身成为问题。

那一天,正是第二个工具存在的理由。

■ 诚实印章 我读的是记录,没有跑测试。实测对象:公开记录——llama.cpp b11443(评测当天四个版本)· Ollama v0.35.1 / LLAMA_CPP_VERSION b11351。记录于 2026-10-06。这里的每个数字都来自两个仓库、它们的发布流和链接的公开帖子——星数、fork 数、钉扎文件、build 号——不出自我的终端,也不是跑分台。

引擎舱到此为止 · 什么都没下载 · 全程本地