本地部署大模型，NAS私有云教程

本文详解了在NAS私有云上本地部署大模型（如Ollama）时，因模型目录未正确挂载导致无法加载或响应迟缓的核心痛点，并系统性地提供了五种高效可靠的解决方案：Docker卷绑定挂载、Docker Compose持久化配置、符号链接路径重定向、SMB/NFS跨设备共享挂载，以及关键的挂载验证与模型加载全流程实操指南——无论你是刚入门的DIY爱好者，还是追求稳定高效的进阶用户，都能快速定位问题、一步到位实现大模型在家庭私有云上的流畅运行。

如果您已在NAS上完成大模型框架（如Ollama）的部署，但模型无法加载或响应缓慢，则很可能是模型文件未正确挂载至容器可访问路径。以下是解决此问题的步骤：

一、通过Docker卷绑定挂载模型目录

该方法利用Docker原生卷映射机制，将NAS本地存储路径直接映射为Ollama容器内的模型根目录，确保模型文件持久化且容器启动即可见。

1、在NAS系统中创建专用模型存储文件夹，例如/vol1/docker/ollama。

2、进入Docker应用，新建容器时在“高级设置→储存位置”中点击“添加路径”。

3、宿主机路径填写/vol1/docker/ollama，容器内路径填写/root/.ollama。

4、保存并启动Ollama容器，确认容器日志中出现Loaded model registry from /root/.ollama提示。

二、使用Docker Compose配置持久化卷

该方法适用于通过Compose批量管理服务的场景，通过声明式配置固化挂载关系，避免手动操作遗漏。

1、在NAS指定路径（如/vol1/config/ollama）下新建docker-compose.yml文件。

2、写入以下内容：

services:

  ollama:

    image: ollama/ollama:latest

    volumes:

      - /vol1/docker/ollama:/root/.ollama

    ports:

      - "11434:11434"

3、在该目录下执行docker-compose up -d命令启动服务。

4、验证挂载：进入容器执行ls -l /root/.ollama/models，应显示已下载模型的manifests与blobs子目录。

三、通过符号链接重定向模型路径

当Ollama已运行但默认路径空间不足时，该方法可在不重建容器的前提下迁移模型存储位置，节省时间并保留现有状态。

1、停止正在运行的Ollama容器。

2、将原/root/.ollama目录整体迁移至NAS大容量分区，例如/vol2/ai-models/ollama。

3、在原路径位置创建符号链接：ln -sf /vol2/ai-models/ollama /root/.ollama。

4、重启Ollama容器，检查docker logs ollama中是否输出Found 3 models in registry等识别信息。

四、启用NAS共享文件夹SMB/NFS挂载至容器

该方法适用于多台NAS协同或模型库集中管理场景，允许Ollama容器跨设备访问统一模型仓库，提升资源复用率。

1、在源NAS上启用SMB服务，将模型目录（如/vol1/models）设为共享，权限开放读写。

2、在目标NAS的Docker宿主机上安装cifs-utils：apt-get update && apt-get install -y cifs-utils。

3、创建挂载点/mnt/nas-models，执行挂载命令：mount -t cifs //192.168.1.100/models /mnt/nas-models -o username=guest,password=,uid=1001,gid=1001。

4、在Ollama容器配置中将宿主机路径设为/mnt/nas-models，容器内路径仍为/root/.ollama。

五、验证挂载有效性并加载模型

无论采用上述哪种挂载方式，均需通过终端命令确认模型路径已被Ollama识别，否则后续调用将失败。

1、进入Ollama容器执行ollama list，输出中应包含类似deepseek-r1:7b的条目。

2、若列表为空，执行ollama pull deepseek-r1:7b触发下载，观察进度条是否从pulling manifest开始推进。

3、下载完成后再次运行ollama list，确认状态列为latest且大小值非零。

4、执行ollama run deepseek-r1:7b，输入hello后等待响应，成功返回中文回复即表明挂载与模型加载全部生效。

文中关于的知识介绍，希望对你的学习有所帮助！若是受益匪浅，那就动动鼠标收藏这篇《本地部署大模型，NAS私有云教程》文章吧，也可关注golang学习网公众号了解相关技术文章。