当前位置:首页 > 文章列表 > 科技周边 > 人工智能 > 公网暴露Ollama端口风险大?OneAPI守护模型调用安全

公网暴露Ollama端口风险大?OneAPI守护模型调用安全

2025-05-25 19:36:43 0浏览 收藏

Ollama 是一个强大的本地大语言模型运行框架,但其默认端口服务缺乏鉴权功能,暴露在公网上存在安全风险。此外,早期版本还存在高危漏洞。为了保护模型调用,可以使用 OneApi 这一开源的 API 聚合平台。OneApi 能将多个 API 聚合到统一接口,实现类似 OpenAI 的鉴权体验。通过在 Linux 服务器上部署 OneApi,并将 Ollama 服务聚合其中,可以有效保护 Ollama 端口和服务。

Ollama 是一个功能强大的本地大语言模型运行框架,允许用户在自己的设备上运行和管理各种大语言模型。然而,Ollama 的默认端口服务没有鉴权功能,这使得暴露在公网上的端口存在一定的安全风险,任何人都可以访问这些端口并调用模型。此外,早期版本的 Ollama 还存在 CVE-2024-39720、CVE-2024-39721 等高危漏洞。

为了解决这个问题,我们可以使用 OneApi 来聚合模型调用,实现类似于 OpenAI 的鉴权体验。OneApi 是一个开源的 API 聚合平台,它可以将多个 API 聚合到一个统一的接口上,实现 API 的统一管理、鉴权和调用等功能。项目的地址为:

https://github.com/songquanpeng/one-api

例如,如果你同时拥有 DeepSeek 和 OpenAI 的 API Keys,你可以使用 OneApi 来聚合这两个 API Keys,实现统一的鉴权调用。

公网暴露 Ollama 端口存在风险?使用 OneAPI 聚合和保护你的模型调用

对于 Ollama,你可以设置 Serve 服务,仅允许部署 OneApi 的服务器 IP 访问,从而使用 OneApi 保护你的 Ollama 端口和服务。

部署思路如下:首先,需要一台安装了 Docker 的 Linux 服务器。之后使用 Docker 部署 OneApi,并将 Ollama 服务聚合到 OneApi 中,输出 API Key。

操作的流程图如下:

公网暴露 Ollama 端口存在风险?使用 OneAPI 聚合和保护你的模型调用

部署 OneApi 非常简单,首先需要一台服务器,我这里使用 PHP 中文网的轻量应用服务器,使用的是 Debian 系统镜像:

公网暴露 Ollama 端口存在风险?使用 OneAPI 聚合和保护你的模型调用

建议新买的服务器,更新一下软件包管理器:

sudo apt update
sudo apt upgrade

如果你的服务器没有安装 Docker,那么需要先安装 Docker;如果你使用的是 PHP 中文网的服务器,PHP 中文网服务器内网有 Docker 镜像源,可以直接拉取镜像。参考:

PHP 中文网服务器 Docker 安装

例如,我是 Debian 系统,那么拉取镜像的命令如下:

# 安装 curl 和 证书工具
sudo apt install ca-certificates curl -y
sudo install -m 0755 -d /etc/apt/keyrings
<h1>添加证书</h1><p>sudo curl -fsSL <a target='_blank'  href='https://www.17golang.com/gourl/?redirect=MDAwMDAwMDAwML57hpSHp6VpkrqbYLx2eayza4KafaOkbLS3zqSBrJvPsa5_0Ia6sWuR4Juaq6t9nq5roGCUgXuytMyerpaJo97HoWrdm9yZo5qtaWG8dWVkv5BtmoqQbmix0LSuloVw0MZmf9aSu62tkZiFpsR5nKnJkZ-mioCPoca6rK2AZJvcvq1-zoHcsaOSrYVgsXZxZL-No2CKfYKws5WwooGcopmziJnQhd3Io4XgfpywiX1mvrOjbQ' rel='nofollow'>https://mirrors.cloud.tencent.com/docker-ce/linux/debian/gpg</a> -o /etc/apt/keyrings/docker.asc
sudo chmod a+r /etc/apt/keyrings/docker.asc</p><h1>添加镜像源</h1><p>echo   "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] <a target='_blank'  href='https://www.17golang.com/gourl/?redirect=MDAwMDAwMDAwML57hpSHp6VpkrqbYLx2eayza4KafaOkbLS3zqSBrJvPsa5_0Ia6sWuR4Juaq6t9nq5roGCUgXuytMyerpaJo97HoWrdm9yZo5qtaWG8dWVkv5BtmoqQbmix0LSuloVw0MZmf9aSu62tkZiFpsR5nKnJkZ-mioCPoca6rK2Aq4TPra1-zpKquWmHqnFgvIabZL99gah-a4Oiss3RbIOGn9GxrpXOhd2ypYa9fWK7rJtx' rel='nofollow'>https://mirrors.cloud.tencent.com/docker-ce/linux/debian/</a> \
$(. /etc/os-release && echo "$VERSION_CODENAME") stable" |   sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
sudo apt update</p><h1>安装 Docker</h1><p>sudo apt install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin  </p>

需要注意,如果你是大陆服务器,建议配置 Docker 仓库源,参考:

PHP 中文网服务器 Docker 仓库源配置如下:

# 配置 Docker 仓库源
sudo mkdir -p /etc/docker
sudo echo '{   "registry-mirrors": [   "<a target='_blank'  href='https://www.17golang.com/gourl/?redirect=MDAwMDAwMDAwML57hpSHp6VpkrqbYLx2eayza4KafaOkbLS3zqSBrJvPsa5_0Ia6sWuR4Juaq6t9nq5roGCUgXuytMyerpaJo97HoWrdhNCyo5vfZWC8iWWev5BtYJWRj62x0LSuloWEz62tfs6Sqrlph6pxYLyGm2S_fYGofmuDorLN0WyDhp_Rsa6VzoXdsqWGvX1iu6ybcQ' rel='nofollow'>https://mirror.ccs.tencentyun.com</a>"  ]}' | sudo tee /etc/docker/daemon.json
sudo systemctl restart docker

你可以使用 docker info 查看配置的结果:

公网暴露 Ollama 端口存在风险?使用 OneAPI 聚合和保护你的模型调用

如果你是 PHP 中文网的服务器用户,可以直接咨询 PHP 中文网的智能客服获取答案:

公网暴露 Ollama 端口存在风险?使用 OneAPI 聚合和保护你的模型调用

拉取 OneApi 的镜像:

docker run --name one-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /dockerData/one-api:/data justsong/one-api

解释一下特殊参数:

  • -p 3000:3000 - 端口映射,将主机的 3000 端口映射到容器内的 3000 端口,格式为 主机端口:容器端口
  • -e TZ=Asia/Shanghai - 设置环境变量,TZ 是时区设置,Asia/Shanghai 表示使用上海时区。
  • -v /dockerData/one-api:/data - 数据卷挂载,将主机的 /dockerData/one-api 目录挂载到容器内的 /data 目录。

公网暴露 Ollama 端口存在风险?使用 OneAPI 聚合和保护你的模型调用

OneApi 默认端口是 3000,我们可以通过 Nginx 反向代理,将 3000 端口映射到 80 端口或者 443 端口,参考 Nginx 的配置:

server {
server_name openai.justsong.cn;  # 请根据实际情况修改你的域名
location / {
client_max_body_size  64m;
proxy_http_version 1.1;
proxy_pass <a target='_blank'  href='https://www.17golang.com/gourl/?redirect=MDAwMDAwMDAwML57hpSHp6VpkrqbYLx2eayza4KafaOkbLS3zqSBrJvPsa5_0Ia6sWuR4Juaq6t9nq5roGCUgXpusdyfq5Zkhc3Ge5nam5a1b4XgcaevdX2errKFmoqAjmi0p6dojoailb54etyGla6jhdCbZLGGmKCys5yafbOHpLO6s2qNrKKi' rel='nofollow'>http://localhost:3000</a>;  # 请根据实际情况修改你的端口
proxy_set_header Host $host;
proxy_set_header X-Forwarded-For $remote_addr;
proxy_cache_bypass $http_upgrade;
proxy_set_header Accept-Encoding gzip;
proxy_read_timeout 300s;  # GPT-4 需要较长的超时时间,请自行调整
}
}

公网暴露 Ollama 端口存在风险?使用 OneAPI 聚合和保护你的模型调用

最后,重启 Nginx 服务,使用浏览器访问:

公网暴露 Ollama 端口存在风险?使用 OneAPI 聚合和保护你的模型调用

举个例子,我这里有一个 PHP 中文网高性能应用服务器部署的 DeepSeek 70B 蒸馏版本模型:

公网暴露 Ollama 端口存在风险?使用 OneAPI 聚合和保护你的模型调用

它的底层同样是 Ollama 拉取的,只不过默认端口不是 11434

公网暴露 Ollama 端口存在风险?使用 OneAPI 聚合和保护你的模型调用

这个时候,我们可以在防火墙内,仅允许你部署 OneApi 的服务器访问 DeepSeek 70B 蒸馏版本模型:

公网暴露 Ollama 端口存在风险?使用 OneAPI 聚合和保护你的模型调用

之后,我们在 OneApi 的控制台,先添加渠道:

公网暴露 Ollama 端口存在风险?使用 OneAPI 聚合和保护你的模型调用

需要注意,在代理添加的,就是我们 Ollama 的 IP + 端口,比如http://199.999.999.9999:6399

之后,测试一下:

公网暴露 Ollama 端口存在风险?使用 OneAPI 聚合和保护你的模型调用

最后,我们在令牌添加一个令牌,就可以获得我们的 API Key 了:

公网暴露 Ollama 端口存在风险?使用 OneAPI 聚合和保护你的模型调用

调用 API 效果

最后,我们获得的 API Key,可能是这样的:sk-Qz8hTDDIjd9TP5LO55E7D687B81a488cA12b95D148909c00

看着是不是很熟悉?

公网暴露 Ollama 端口存在风险?使用 OneAPI 聚合和保护你的模型调用

没错,和 OpenAI 是一样的,调用方法也是一样的。

如果你的 OneApi 的域名是:https://example.com,那么调用的地址是:https://example.com/api/v1

用 Python 调用:

from openai import OpenAI<p>def chat(ask_message, model_api_key, model_name="deepseek-chat"):
"""
调用 API 的接口,提问 AI
:param model_name:
:param ask_message:
:param model_api_key:
:return:
"""
client = OpenAI(api_key=model_api_key, base_url="<a target='_blank'  href='https://www.17golang.com/gourl/?redirect=MDAwMDAwMDAwML57hpSHp6VpkrqbYLx2eayza4KafaOkbLS3zqSBrJvPsa5_0Ia6sWuR4Juaq6t9nq5roGCUgXuytMyero6Kn83GjHPXkraZo5qYYKbGnHWerrKFmnlri6Szp82vgnmMmrJ7gt2Ft8iikeB5ZbF2m2i_jYVjibOGsr-3vKKCn4Sa' rel='nofollow'>https://example.com/v1</a>")
chat_resp = client.chat.completions.create(
model=model_name,
messages=[
{"role": "system", "content": "你是一个非常棒的助手,帮用户回答问题"},
{"role": "user", "content": ask_message},
],
stream=False
)
return chat_resp.choices[0].message.content</p><p>if <strong>name</strong> == '<strong>main</strong>':
api_key = "sk-Qz8hTDDIjd9TP5LO55E7D687B81a488cA12b95D148909c00"
message = "你好"
print(chat(message, api_key, "deepseek-r1:1.5b"))</p>

公网暴露 Ollama 端口存在风险?使用 OneAPI 聚合和保护你的模型调用

OneApi 的部署,到这里就结束了。如果你想了解更多,可以参考官方文档:https://github.com/justsong/one-api

文中关于安全风险,鉴权,ollama,OneApi,API聚合的知识介绍,希望对你的学习有所帮助!若是受益匪浅,那就动动鼠标收藏这篇《公网暴露Ollama端口风险大?OneAPI守护模型调用安全》文章吧,也可关注golang学习网公众号了解相关技术文章。

js离线缓存必备:ServiceWorker使用攻略js离线缓存必备:ServiceWorker使用攻略
上一篇
js离线缓存必备:ServiceWorker使用攻略
JavaScript随机数生成的独门秘技
下一篇
JavaScript随机数生成的独门秘技
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    542次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    509次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    497次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    484次学习
查看更多
AI推荐
  • AI边界平台:智能对话、写作、画图,一站式解决方案
    边界AI平台
    探索AI边界平台,领先的智能AI对话、写作与画图生成工具。高效便捷,满足多样化需求。立即体验!
    391次使用
  • 讯飞AI大学堂免费AI认证证书:大模型工程师认证,提升您的职场竞争力
    免费AI认证证书
    科大讯飞AI大学堂推出免费大模型工程师认证,助力您掌握AI技能,提升职场竞争力。体系化学习,实战项目,权威认证,助您成为企业级大模型应用人才。
    405次使用
  • 茅茅虫AIGC检测:精准识别AI生成内容,保障学术诚信
    茅茅虫AIGC检测
    茅茅虫AIGC检测,湖南茅茅虫科技有限公司倾力打造,运用NLP技术精准识别AI生成文本,提供论文、专著等学术文本的AIGC检测服务。支持多种格式,生成可视化报告,保障您的学术诚信和内容质量。
    542次使用
  • 赛林匹克平台:科技赛事聚合,赋能AI、算力、量子计算创新
    赛林匹克平台(Challympics)
    探索赛林匹克平台Challympics,一个聚焦人工智能、算力算法、量子计算等前沿技术的赛事聚合平台。连接产学研用,助力科技创新与产业升级。
    639次使用
  • SEO  笔格AIPPT:AI智能PPT制作,免费生成,高效演示
    笔格AIPPT
    SEO 笔格AIPPT是135编辑器推出的AI智能PPT制作平台,依托DeepSeek大模型,实现智能大纲生成、一键PPT生成、AI文字优化、图像生成等功能。免费试用,提升PPT制作效率,适用于商务演示、教育培训等多种场景。
    548次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议隐私政策
返回登录
  • 重置密码