Ollama Modelfile 如何设置系统提示和上下文长度

我第一次把本地模型交给一个自动化脚本时，最容易混淆的是两件事：模型应该“怎么回答”，以及一次请求最多能“记住多少内容”。在 Ollama 的 Modelfile 里，前者由 SYSTEM 负责，后者通常由 PARAMETER num_ctx 负责。把两项写进同一个自定义模型，再用自定义模型名调用，配置才不会只停留在当前会话。

官方地址：https://ollama.com/　Modelfile 文档：https://docs.ollama.com/modelfile

最小写法是：用 SYSTEM 固化系统提示，用 PARAMETER num_ctx 8192 固化上下文窗口；修改后必须重新执行 ollama create，调用时也要使用新模型名。若 ollama ps 显示的上下文仍不对，再检查服务默认值、环境变量和客户端请求。

SYSTEM 和 PARAMETER 为什么要分开写

SYSTEM 写的是模型在对话中应遵守的长期指令，例如回答语言、角色范围和输出格式；PARAMETER 写的是运行参数。num_ctx 决定模型生成下一个 token 时可用的上下文窗口，和“让模型更聪明”不是一回事。

TEMPLATE 则是另一层：它定义完整提示的拼接格式，常见变量包括 {{ .System }}、{{ .Prompt }} 和 {{ .Response }}。如果模板没有把 .System 放进去，单独写 SYSTEM 也可能无法按预期呈现，所以一般优先沿用基础模型的模板。

用 Modelfile 固化一个可复用模型

在一个空目录保存名为 Modelfile 的文件。下面的示例只改变系统提示、上下文和温度，基础模型仍由 FROM 指定：

FROM llama3.2

# 固化回答角色和输出边界，避免每次请求重复发送同一段说明
SYSTEM """你是一名中文 Go 工程助手。
回答先给结论，再给最小可运行示例；不确定时明确说明假设。"""

# 设置上下文窗口，单位是 token；按本机显存和输入长度选择
PARAMETER num_ctx 8192

# 降低随机性，让排错类回答更稳定
PARAMETER temperature 0.2

保存后创建模型并运行：

# 根据当前目录的 Modelfile 创建可复用的模型标签
ollama create go-helper -f ./Modelfile

# 后续对话使用自定义标签，不要又切回基础模型 llama3.2
ollama run go-helper

这里的 go-helper 只是新标签，可以换成项目自己的名称。每次修改 SYSTEM 或 num_ctx 后，都要再次执行 ollama create；只编辑文件不会自动更新已经创建的模型。

上下文长度不生效时先查哪一层

先看模型配置，再看实际加载值。ollama show --modelfile 能帮助确认你查看的是哪个模型标签；ollama ps 的 CONTEXT 列才是当前运行实例加载的上下文长度。Ollama 文档还说明，默认上下文会按显存档位变化，增大上下文会提高内存需求。

# 查看自定义模型对应的 Modelfile 配置
ollama show --modelfile go-helper

# 查看正在运行的实例、处理器分配和实际 CONTEXT
ollama ps

如果服务层无法通过应用设置调整，也可以在启动服务时指定环境变量：

# 服务级上下文会影响该服务加载模型时的默认容量
OLLAMA_CONTEXT_LENGTH=64000 ollama serve

这不是让所有场景都盲目改成 64000。大窗口会增加内存压力，应该先按任务选择 4096、8192 或更大的值，再观察是否出现 CPU offload、加载失败或响应变慢。若使用 OpenAI 兼容接口，官方说明该接口本身没有设置上下文长度的字段，应该创建带有 num_ctx 的 Modelfile 并调用新模型名。

一张配置速查表

常见问题

只写 SYSTEM，不写 TEMPLATE，可以吗？

通常可以，因为基础模型已有模板；但自定义 TEMPLATE 时必须保留模型所需的消息格式，并确认其中使用了 .System。

把 num_ctx 调大，回答一定更好吗？

不一定。它只扩大可用上下文，还会增加内存需求；如果任务本身输入很短，增大窗口可能只带来更高的资源成本。

为什么改完 Modelfile 后 ollama ps 还是旧值？

最常见原因是没有重新 ollama create，或者运行时仍调用基础模型。先用 ollama show --modelfile 新模型名 查配置，再停止旧实例并用新标签启动。