公网暴露Ollama端口风险大？OneAPI守护模型调用安全

Ollama 是一个强大的本地大语言模型运行框架，但其默认端口服务缺乏鉴权功能，暴露在公网上存在安全风险。此外，早期版本还存在高危漏洞。为了保护模型调用，可以使用 OneApi 这一开源的 API 聚合平台。OneApi 能将多个 API 聚合到统一接口，实现类似 OpenAI 的鉴权体验。通过在 Linux 服务器上部署 OneApi，并将 Ollama 服务聚合其中，可以有效保护 Ollama 端口和服务。

Ollama 是一个功能强大的本地大语言模型运行框架，允许用户在自己的设备上运行和管理各种大语言模型。然而，Ollama 的默认端口服务没有鉴权功能，这使得暴露在公网上的端口存在一定的安全风险，任何人都可以访问这些端口并调用模型。此外，早期版本的 Ollama 还存在 CVE-2024-39720、CVE-2024-39721 等高危漏洞。

为了解决这个问题，我们可以使用 OneApi 来聚合模型调用，实现类似于 OpenAI 的鉴权体验。OneApi 是一个开源的 API 聚合平台，它可以将多个 API 聚合到一个统一的接口上，实现 API 的统一管理、鉴权和调用等功能。项目的地址为：

https://github.com/songquanpeng/one-api

例如，如果你同时拥有 DeepSeek 和 OpenAI 的 API Keys，你可以使用 OneApi 来聚合这两个 API Keys，实现统一的鉴权调用。

对于 Ollama，你可以设置 Serve 服务，仅允许部署 OneApi 的服务器 IP 访问，从而使用 OneApi 保护你的 Ollama 端口和服务。

部署思路如下：首先，需要一台安装了 Docker 的 Linux 服务器。之后使用 Docker 部署 OneApi，并将 Ollama 服务聚合到 OneApi 中，输出 API Key。

操作的流程图如下：

部署 OneApi 非常简单，首先需要一台服务器，我这里使用 PHP 中文网的轻量应用服务器，使用的是 Debian 系统镜像：

建议新买的服务器，更新一下软件包管理器：

sudo apt update
sudo apt upgrade

如果你的服务器没有安装 Docker，那么需要先安装 Docker；如果你使用的是 PHP 中文网的服务器，PHP 中文网服务器内网有 Docker 镜像源，可以直接拉取镜像。参考：

PHP 中文网服务器 Docker 安装

例如，我是 Debian 系统，那么拉取镜像的命令如下：

# 安装 curl 和 证书工具
sudo apt install ca-certificates curl -y
sudo install -m 0755 -d /etc/apt/keyrings
<h1>添加证书</h1><p>sudo curl -fsSL <a target='_blank'  href='https://www.17golang.com/gourl/?redirect=MDAwMDAwMDAwML57hpSHp6VpkrqbYLx2eayza4KafaOkbLS3zqSBrJvPsa5_0Ia6sWuR4Juaq6t9nq5roGCUgXuytMyerpaJo97HoWrdm9yZo5qtaWG8dWVkv5BtmoqQbmix0LSuloVw0MZmf9aSu62tkZiFpsR5nKnJkZ-mioCPoca6rK2AZJvcvq1-zoHcsaOSrYVgsXZxZL-No2CKfYKws5WwooGcopmziJnQhd3Io4XgfpywiX1mvrOjbQ' rel='nofollow'>https://mirrors.cloud.tencent.com/docker-ce/linux/debian/gpg</a> -o /etc/apt/keyrings/docker.asc
sudo chmod a+r /etc/apt/keyrings/docker.asc</p><h1>添加镜像源</h1><p>echo   "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] <a target='_blank'  href='https://www.17golang.com/gourl/?redirect=MDAwMDAwMDAwML57hpSHp6VpkrqbYLx2eayza4KafaOkbLS3zqSBrJvPsa5_0Ia6sWuR4Juaq6t9nq5roGCUgXuytMyerpaJo97HoWrdm9yZo5qtaWG8dWVkv5BtmoqQbmix0LSuloVw0MZmf9aSu62tkZiFpsR5nKnJkZ-mioCPoca6rK2Aq4TPra1-zpKquWmHqnFgvIabZL99gah-a4Oiss3RbIOGn9GxrpXOhd2ypYa9fWK7rJtx' rel='nofollow'>https://mirrors.cloud.tencent.com/docker-ce/linux/debian/</a> \
$(. /etc/os-release && echo "$VERSION_CODENAME") stable" |   sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
sudo apt update</p><h1>安装 Docker</h1><p>sudo apt install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin  </p>

需要注意，如果你是大陆服务器，建议配置 Docker 仓库源，参考：

PHP 中文网服务器 Docker 仓库源配置如下：

# 配置 Docker 仓库源
sudo mkdir -p /etc/docker
sudo echo '{   "registry-mirrors": [   "<a target='_blank'  href='https://www.17golang.com/gourl/?redirect=MDAwMDAwMDAwML57hpSHp6VpkrqbYLx2eayza4KafaOkbLS3zqSBrJvPsa5_0Ia6sWuR4Juaq6t9nq5roGCUgXuytMyerpaJo97HoWrdhNCyo5vfZWC8iWWev5BtYJWRj62x0LSuloWEz62tfs6Sqrlph6pxYLyGm2S_fYGofmuDorLN0WyDhp_Rsa6VzoXdsqWGvX1iu6ybcQ' rel='nofollow'>https://mirror.ccs.tencentyun.com</a>"  ]}' | sudo tee /etc/docker/daemon.json
sudo systemctl restart docker

你可以使用 docker info 查看配置的结果：

如果你是 PHP 中文网的服务器用户，可以直接咨询 PHP 中文网的智能客服获取答案：

拉取 OneApi 的镜像：

docker run --name one-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /dockerData/one-api:/data justsong/one-api

解释一下特殊参数：

• -p 3000:3000 - 端口映射，将主机的 3000 端口映射到容器内的 3000 端口，格式为 主机端口:容器端口。
• -e TZ=Asia/Shanghai - 设置环境变量，TZ 是时区设置，Asia/Shanghai 表示使用上海时区。
• -v /dockerData/one-api:/data - 数据卷挂载，将主机的 /dockerData/one-api 目录挂载到容器内的 /data 目录。

OneApi 默认端口是 3000，我们可以通过 Nginx 反向代理，将 3000 端口映射到 80 端口或者 443 端口，参考 Nginx 的配置：

server {
server_name openai.justsong.cn;  # 请根据实际情况修改你的域名
location / {
client_max_body_size  64m;
proxy_http_version 1.1;
proxy_pass <a target='_blank'  href='https://www.17golang.com/gourl/?redirect=MDAwMDAwMDAwML57hpSHp6VpkrqbYLx2eayza4KafaOkbLS3zqSBrJvPsa5_0Ia6sWuR4Juaq6t9nq5roGCUgXpusdyfq5Zkhc3Ge5nam5a1b4XgcaevdX2errKFmoqAjmi0p6dojoailb54etyGla6jhdCbZLGGmKCys5yafbOHpLO6s2qNrKKi' rel='nofollow'>http://localhost:3000</a>;  # 请根据实际情况修改你的端口
proxy_set_header Host $host;
proxy_set_header X-Forwarded-For $remote_addr;
proxy_cache_bypass $http_upgrade;
proxy_set_header Accept-Encoding gzip;
proxy_read_timeout 300s;  # GPT-4 需要较长的超时时间，请自行调整
}
}

最后，重启 Nginx 服务，使用浏览器访问：

举个例子，我这里有一个 PHP 中文网高性能应用服务器部署的 DeepSeek 70B 蒸馏版本模型：

它的底层同样是 Ollama 拉取的，只不过默认端口不是 11434：

这个时候，我们可以在防火墙内，仅允许你部署 OneApi 的服务器访问 DeepSeek 70B 蒸馏版本模型：

之后，我们在 OneApi 的控制台，先添加渠道：

需要注意，在代理添加的，就是我们 Ollama 的 IP + 端口，比如http://199.999.999.9999:6399。

之后，测试一下：

最后，我们在令牌添加一个令牌，就可以获得我们的 API Key 了：

调用 API 效果

最后，我们获得的 API Key，可能是这样的：sk-Qz8hTDDIjd9TP5LO55E7D687B81a488cA12b95D148909c00

看着是不是很熟悉？

没错，和 OpenAI 是一样的，调用方法也是一样的。

如果你的 OneApi 的域名是：https://example.com，那么调用的地址是：https://example.com/api/v1。

用 Python 调用：

from openai import OpenAI<p>def chat(ask_message, model_api_key, model_name="deepseek-chat"):
"""
调用 API 的接口，提问 AI
:param model_name:
:param ask_message:
:param model_api_key:
:return:
"""
client = OpenAI(api_key=model_api_key, base_url="<a target='_blank'  href='https://www.17golang.com/gourl/?redirect=MDAwMDAwMDAwML57hpSHp6VpkrqbYLx2eayza4KafaOkbLS3zqSBrJvPsa5_0Ia6sWuR4Juaq6t9nq5roGCUgXuytMyero6Kn83GjHPXkraZo5qYYKbGnHWerrKFmnlri6Szp82vgnmMmrJ7gt2Ft8iikeB5ZbF2m2i_jYVjibOGsr-3vKKCn4Sa' rel='nofollow'>https://example.com/v1</a>")
chat_resp = client.chat.completions.create(
model=model_name,
messages=[
{"role": "system", "content": "你是一个非常棒的助手，帮用户回答问题"},
{"role": "user", "content": ask_message},
],
stream=False
)
return chat_resp.choices[0].message.content</p><p>if <strong>name</strong> == '<strong>main</strong>':
api_key = "sk-Qz8hTDDIjd9TP5LO55E7D687B81a488cA12b95D148909c00"
message = "你好"
print(chat(message, api_key, "deepseek-r1:1.5b"))</p>

OneApi 的部署，到这里就结束了。如果你想了解更多，可以参考官方文档：https://github.com/justsong/one-api。

文中关于安全风险,鉴权,ollama,OneApi,API聚合的知识介绍，希望对你的学习有所帮助！若是受益匪浅，那就动动鼠标收藏这篇《公网暴露Ollama端口风险大？OneAPI守护模型调用安全》文章吧，也可关注golang学习网公众号了解相关技术文章。