fnOS飞牛云NAS本地部署DeepSeek-R1结合内网穿透远程访问

前言

今天和大家分享一下如何在本地的fnOS飞牛云NAS中部署DeepSeek-R1大模型,并结合cpolar内网穿透工具轻松实现远程访问与使用本地大模型,无需公网IP也不用准备云服务器那么麻烦。

随着越来越多的人知道并了解了DeepSeek的强大,官方自然也收获了更多人的关注。访问的人一多,就经常出现服务器繁忙的情况。不过对于了解一些技术知识的人来说,选择在本地部署DeepSeek就能轻松解决这个问题。

现在本地部署的方案很多,如果是轻量级的DeepSeek模型,那么使用家用级的硬件就可以。如果希望体验满血版的DeepSeek,那么可能需要调用一些服务商的API接口,或者是相对配置较高的硬件来实现纯本地部署来获得更佳的使用效果与隐私保护。

而像NAS这种24小时开机的形式,就很适合部署大模型,方便我们随时访问进行提问。今天笔者就在飞牛云NAS上分享一下如何本地部署DeepSeek,根据大家安装fnOS的硬件配置不同,可以选择的模型规模也从1.5B到70B,甚至671B不等。大家自己根据实际情况选择即可,下面就来进行具体操作演示。

image-20250225140851074

1. 环境准备

fnOSOllamaDeepSeek-R1模型Page Assist浏览器插件:本地AI模型的 Web UI

fnOS基于最新 Linux 内核(Debian 发行版)深度开发,兼容主流 x86 硬件,灵活扩展外部存储。

如果您想要在x86架构的物理机中安装,可以访问飞牛私有云 fnOS官网下载镜像文件然后使用U盘写入镜像后,进入bios设置U盘启动后像装Windows系统一样安装即可。

本例中使用VMware Workstation安装的fnOS虚拟机,系统版本为V0.8.37。如果不知道如何在虚拟机中安装,可以参考这篇文章:VMware中安装飞牛云(fnOS) NAS系统

其他软件在安装好fnOS后,使用Docker与命令行进行安装。

2. 部署Ollama

首先启动fnOS,可以看到飞牛云nas的Web UI界面的地址:

image-20250225132904182

在浏览器中访问即可(账号密码在安装fnos时设置):

image-20250225132925258

为了能正常使用Deepseek-R1模型,我们首先需要部署本地大模型运行工具:Ollama

打开Docker,选择镜像仓库,在搜索框中输入ollama,第一个1K+星星的就是,点击下载按钮:

image-20250225133205199

选择默认的latest镜像标签,确定:

image-20250225133328604

然后在本地镜像中能看到正在下载ollama镜像:

image-20250225133424526

如果不能正常下载,或者下载失败,那么大家可以点击镜像仓库→右上角仓库设置→点击添加→名字随便填,地址填入地址:https://docker.1ms.run 填写完成之后选择新添加的仓库,点击启用。

image-20250225133553878

676cc5bb-13d2-4fbd-88db-be3759402039.png

Ollama镜像下载完毕后,点击运行按钮,开始创建ollama容器:

image-20250225134018497

勾选开机自动开启容器,下一步:

image-20250225134039705

在高级设置的储存位置中,点击添加路径:

image-20250225134230640

在我的文件路径中,点击左下角的新建文件夹,创建一个名为docker的文件夹:

image-20250225134328659

image-20250225134349339

然后选择它,点击确定:

image-20250225134418911

在装载路径中填写:/root/.ollama

image-20250225134523965

然后,点击下方的环境变量:

image-20250225134600736

点击添加变量,变量名输入 OLLAMA_ORIGINS 值输入 *

然后点击下一步:

image-20250225134746558

确认信息无误后,点击创建ollama容器:

image-20250225134839203

然后点击左侧容器,可以看到ollama容器已经显示绿色正常运行状态,点击后边的更多按钮:

image-20250225135223786

打开终端:

image-20250225135248220

点击连接:

image-20250225135343554

3.本地部署deepseek-r1模型

现在我们就可以在终端中通过命令行来安装deepseek-r1模型了:

image-20250225135451186

安装deepseek-r1模型的命令我们可以访问ollama官网:https://ollama.com/download

点击Model:页面跳转后可以看到第一个就是DeepSeek-r1模型:

image-20250205154710576

找到你想要下载的各种量级的deepseek-r1模型,右边就是对应的模型下载命令,如果你安装fnOS飞牛云NAS的主机配置较高,可以选择32B或者70B模型,更多参数配置可以参考下图:

image-20250219144230816

我这里下载1.5b的轻量级deepseek模型进行演示,在终端中执行这个命令就能下载了:

image-20250205154929276

ollama run deepseek-r1:1.5b

image-20250225140621200

可以看到已经开始下载deepseek-r1:1.5b模型了:

image-20250225140701076

等待一会儿后,会看到success提示,现在已经成功在本地部署好了deepseek-r1:1.5b模型了:

image-20250225140851074

我们可以直接在终端中与它进行对话:

image-20250225140955879

现在已经完成了在本地fnOS飞牛云NAS中部署deepseek-r1模型与AI进行聊天了!

但是在终端界面中聊天可能不是很美观,而且在复制回答时也不太方便,我们可以通过安装一个Web UI界面来解决这个问题。

4. Page Assist浏览器插件安装与配置

通过在电脑中安装Page Assist浏览器插件是目前相对简单的一个Web UI解决方案,可以在Chrome浏览器的应用商店中在线安装,也可以下载应用程序后离线安装。

Github 官网:https://github.com/n4ze3m/page-assist

安装后在Chrome浏览器中接入刚才部署的Ollama地址,就可以在任何有网络的设备中使用Chrome浏览器在网页中与DeepSeek对话,享受更方便快捷的AI交互体验。

首先打开Chrome浏览器,进入应用商店:

image-20250217172805737

在顶部搜索框中搜索Page Assist:

image-20250217172848265

点击添加至Chrome:

image-20250217173120232

在弹出的提示框中点击添加扩展程序:

image-20250217173146943

添加后在浏览器右上角的扩展程序图标中打开它即可看到Web UI界面了:

image-20250217173327844

PS:如果访问不了chrome应用商店添加插件,我已打包插件文件到网盘,需要的可以自取:

链接: https://pan.baidu.com/s/1gzrgj1os64-VDOm1oWO0dA?pwd=6666 提取码: 6666

下载好插件文件后,在chrome浏览器中输入: chrome://extensions/ 进入扩展程序安装界面

将插件文件拖入这个界面,点击安装扩展程序即可。

image-20250218105518541

image-20250218105544504

回到Page Assist的Web UI主界面,点击右上角设置–ollama设置,将模型地址进行修改为你的飞牛云NAS的IP地址+ollama端口号,就能实现同一局域网内的其他小伙伴在浏览器中安装了Page Assist插件后,也可以直接访问你在本地部署的DeepSeek大模型了!

image-20250225145736624

回到Page Assist的Web UI主界面,点击上方模型选择可以看到刚才本地部署的deepseek-r1:1.5b:

image-20250217173618434

选择好模型后即可在下方输入框中与deepseek聊天啦!

image-20250217173859546

底部联网开关打开,还可以进行联网搜索:

image-20250218104810399

点击左上角展开侧边栏图标可以看到聊天历史记录:

image-20250218110656120

点击右上角三个点按钮,可以复制与下载回答,支持多种格式:

image-20250218110802762

5. 安装内网穿透

我们现在已经实现了在本地fnOS飞牛云NAS中部署Ollama并接入Deepseek-R1模型,并在Chrome浏览器中安装Page Assist插件快速搭建本地AI模型的Web UI界面实现同一局域网内用户都能在网页中与AI模型聊天。

但如果你的主机配置很不错,想让异地好友或者同事也能远程使用你在本地飞牛云NAS中部署的deepseek大模型应该怎么办呢?很简单,只要安装一个cpolar内网穿透工具就能轻松实现远程访问内网主机中部署的服务了,他人无需二次部署,节约成本,提高效率,接下来介绍一下如何安装cpolar内网穿透。

cpolar官网地址: https://www.cpolar.com

5.1 开启ssh连接安装cpolar

首先打开飞牛云NAS设置界面,开启ssh 连接,端口默认为22即可,开启后,我们就可以ssh 连接飞牛云NAS执行命令:

853d0e568b7879cca312f7b18d4fbb4.png

然后我们通过输入飞牛云NAS的IP地址ssh远程连接进去,因为fnOS是基于Linux 内核开发的,所以我们可以按照cpolar的Linux安装方法进行安装:

image-20250225152553263

连接后执行下面cpolar Linux 安装命令:

sudo curl https://get.cpolar.sh | sh

再次输入飞牛云nas的密码确认后即可自动安装

安装完成后,执行下方命令查看cpolar服务状态:(如图所示即为正常启动)

sudo systemctl status cpolar

image-20250225153049854

Cpolar安装和成功启动服务后,在浏览器上输入飞牛云主机IP加9200端口即:【http://localhost:9200】访问Cpolar管理界面,使用官网注册的账号登录,登录后即可看到配置界面,接下来在web界面配置即可:

image.png

5.2 创建远程连接公网地址

登录cpolar web UI管理界面后,点击左侧仪表盘的隧道管理——创建隧道:

  • 隧道名称:可自定义,本例使用了: fnos 注意不要与已有的隧道名称重复
  • 协议:http
  • 本地地址:11434
  • 域名类型:随机域名
  • 地区:选择China Top

image-20250225153431473

创建成功后,打开左侧在线隧道列表,可以看到刚刚通过创建隧道生成了两个公网地址,接下来你的好友在安装了Page Assist插件的Chrome浏览器的ollama设置中使用上面的任意一个公网地址替换刚才IP加端口号的地址,点击保存按钮后,就可以实现随时随地远程访问你在本地部署的deepseek大模型聊天了!

image-20250225153533091

使用了cpolar的公网域名,无需自己购买云服务器,轻松搞定跨网络环境远程访问本地服务!

image-20250225153713724

image-20250225153750348

小结

为了方便演示,我们在上边的操作过程中使用cpolar生成的HTTP公网地址隧道,其公网地址是随机生成的。这种随机地址的优势在于建立速度快,可以立即使用。然而,它的缺点是网址是随机生成,这个地址在24小时内会发生随机变化,更适合于临时使用。

如果有长期使用Chrome浏览器远程访问本地飞牛云NAS中部署的DeepSeek等大模型,或者异地访问与使用其他本地部署的服务的需求,但又不想每天重新配置公网地址,还想让公网地址好看又好记并体验更多功能与更快的带宽,那我推荐大家选择使用固定的二级子域名方式来配置公网地址。

6. 配置固定公网地址

接下来演示如何为ollama服务配置固定的HTTP公网地址,该地址不会变化,方便分享给别人长期访问你部署的大模型,而无需每天重复修改服务器地址。

配置固定http端口地址需要将cpolar升级到专业版套餐或以上。

登录cpolar官网,点击左侧的预留,选择保留二级子域名,设置一个二级子域名名称,点击保留,保留成功后复制保留的二级子域名名称:

image-20250225154102331

保留成功后复制保留成功的二级子域名的名称:fnollama,大家也可以设置自己喜欢的名称。

image-20250225154124361

返回Cpolar web UI管理界面,点击左侧仪表盘的隧道管理——隧道列表,找到所要配置的隧道:fnos,点击右侧的编辑:

image-20250225154215418

修改隧道信息,将保留成功的二级子域名配置到隧道中

  • 域名类型:选择二级子域名
  • Sub Domain:填写保留成功的二级子域名:fnollama

点击更新(注意,点击一次更新即可,不需要重复提交)

image-20250225154258400

更新完成后,打开在线隧道列表,此时可以看到公网地址已经发生变化,地址名称也变成了固定的二级子域名名称的域名:

image-20250225154400703

最后,我们在Chrome浏览器的Page Assist插件ollama设置界面中使用上面的任意一个固定的二级子域名公网地址替换刚才的随机公网地址,现在开始就不用每天都更换公网地址来远程访问本地部署的deepseek大模型了。

image-20250225154450750

image-20250225154618046

以上就是如何在fnOS飞牛云NAS中本地安装Ollama与deepseek-r1模型,并使用Chrome浏览器安装Page Assist插件快速搭建web页面,然后结合cpolar内网穿透工具配置固定不变的二级子域名公网地址,实现随时随地远程访问本地部署的deepseek大模型的全部流程,感谢您的观看,有任何问题欢迎留言交流。

Share:

发表回复

目录

On Key

推荐文章