Windows本地部署LocalGPT打造私有知识库

本文详细介绍了如何在Windows系统上本地部署LocalGPT并实现远程访问。LocalGPT通过本地局域网IP地址和端口号访问，结合cpolar内网穿透工具，可以实现远程访问。LocalGPT的优势在于利用LLM技术，无需互联网连接即可私密地向文档提问，并且使用LangChain和Vicuna-7B以及InstructorEmbeddings构建。文章涵盖了环境准备、LocalGPT的部署、启动和使用，以及cpolar内网穿透的安装和配置，确保用户能够创建并使用固定公网地址访问LocalGPT的Web UI界面。

本文主要介绍如何本地部署LocalGPT并实现远程访问，由于localGPT只能通过本地局域网IP地址+端口号的形式访问，实现远程访问还需搭配cpolar内网穿透。

LocalGPT这个项目最大的亮点在于：

1.使用LLM的力量，无需互联网连接，就可以向你的文档提问。100%私密，任何数据都不会离开你的执行环境。你可以摄取文档并提问，无需互联网连接！

2.使用LangChain和Vicuna-7B以及InstructorEmbeddings构建。可以借助LangChain构建更高级能力的pipeline。

下载安装依赖过程中需要C++编译器,我们先提前安装C++编译器,进入微软官方下载vs2022工具:

下载后打开进行安装,我们勾选第一个C++桌面开发,然后点击右下角安装,接下来等待安装完成即可

localGPT在Github 上面开源了,我们可以在里面复制克隆地址,把项目克隆到本地

通过Git 把项目克隆到本地windows目录,在目录中打开Powershall,执行:

修改隧道信息，将保留成功的二级子域名配置到隧道中
域名类型：选择二级子域名Sub Domain：填写保留成功的二级子域名地区: China VIP
点击更新
更新完成后,打开在线隧道列表,此时可以看到随机的公网地址已经发生变化,地址名称也变成了保留和固定的二级子域名名称
最后,我们使用固定的公网地址访问localGPT webui 界面可以看到访问成功,一个永久不会变化的远程访问方式即设置好了
以上就是《Windows本地部署LocalGPT打造私有知识库》的详细内容，更多关于LLM,远程访问,cpolar,LocalGPT,WebUI的资料请关注golang学习网公众号！