## DeepSeek-R1 本地部署与性能优化指南：打造高效AI应用 本文档提供 DeepSeek-R1 本地部署后的性能优化实战指南，旨在帮助开发者充分挖掘其潜力。首先，我们利用 WRK 压力测试工具，模拟高并发场景，精准评估 DeepSeek-R1 的初始性能表现。通过调整 `SERVER_WORKER_AMOUNT` 参数，充分利用服务器CPU资源，显著提升QPS。然而，高并发可能导致连接数超限，引发Internal Server Error。针对此问题，我们详细介绍了如何调整 `SQLALCHEMY_POOL_SIZE`、`POSTGRES_MAX_CONNECTIONS` 和 `SQLALCHEMY_MAX_OVERFLOW` 等关键参数，有效解决连接池瓶颈，确保 DeepSeek-R1 在高负载下稳定运行，最终实现性能的显著提升，为AI应用的流畅运行提供有力保障。

安装压力测试工具

为了更高效地进行测试，建议在局域网设备上操作。我使用的是一台局域网中的Ubuntu服务器，并安装了WRK作为压测工具。

apt install wrk

编写测试脚本

为了方便，我在 /root 目录下创建了一个 Lua 脚本：

vim test.lua

脚本内容如下，请将 app-xxxx 替换为你自己的 API 密钥：

wrk.method = "POST"
wrk.body = '{"inputs":{"query":"1"},"response_mode":"streaming","user":"dcf压测"}'
wrk.headers["Content-Type"] = "application/json"
wrk.headers["Authorization"] = "Bearer app-08mesPqsdYfybwN6iIjyVcji"

创建测试工作流

我新建了一个空的工作流，仅返回 user_id，不引入大模型，以避免额外的延迟。

API 密钥可在相关设置中创建。

开始压测

执行以下命令开始测试：

wrk -t50 -c200 -d20s -s test.lua --timeout 10s --latency http://192.168.11.119/v1/workflows/run

【使用50个线程，200个连接，持续20秒，请求工作流接口10秒】
平均延迟：251.70毫秒，最大延迟：1.79秒，QPS：每秒851次

性能优化调整

调整工作进程数量参数 SERVER_WORKER_AMOUNT，默认值为1，官方推荐公式为：CPU核心数*2+1。

我的服务器配置是64核CPU、256G内存。尝试设置为129时，Dify反应迟缓，于是我改为65（每次修改 .env 文件后需重启 Dify）。

将默认值1适当调大，参考公式：CPU核心数*2+1

SERVER_WORKER_AMOUNT=65

再次进行压测，性能明显提升：

虽然性能提升了，但发现 Dify 中的所有应用均报错：Internal Server Error

同时出现了大量非2XX和3XX响应码，因此需要调整连接池大小，防止连接数超限。

我将 SQLALCHEMY_POOL_SIZE、POSTGRES_MAX_CONNECTIONS、SQLALCHEMY_MAX_OVERFLOW 这三个参数统一设置为3000，默认值分别为30、100，是否可以超过根据实际情况判断。

SQLALCHEMY_POOL_SIZE=3000
POSTGRES_MAX_CONNECTIONS=3000
# 注意默认.env文件中没有 SQLALCHEMY_MAX_OVERFLOW 参数，需手动添加
SQLALCHEMY_MAX_OVERFLOW=3000

重启 Dify 后再次测试，单次测试处理了1700+个请求：

以上就是《DeepSeek-R1部署与性能优化全攻略》的详细内容，更多关于性能优化,连接池,压力测试,DeepSeek-R1,SERVER_WORKER_AMOUNT的资料请关注golang学习网公众号！