登录
首页 >  科技周边 >  人工智能

macOS上DeepSeek大模型,Ollama与OpenWebUI的绝佳组合

时间:2025-05-06 13:19:03 420浏览 收藏

在2025年1月20日,杭州的一家公司发布了开源推理模型DeepSeek-R1,其推理能力媲美OpenAI O3,且成本极低。本文详细介绍了如何在macOS上通过Ollama和Open WebUI部署和运行DeepSeek大模型。Ollama是一个轻量级框架,支持多种模型的本地运行,而Open WebUI则提供了一个便捷的网页接口。通过这两个工具,用户可以在本地轻松部署并使用DeepSeek-R1的32B蒸馏版本,实现高效、低成本的AI推理。

2025年1月20日,杭州的一家公司开源推理模型 DeepSeek-R1,一经推出就震撼了世界。

不单单是媲美 OpenAI O3 的推理能力,更是用极低的成本,惊艳了世界。更何况,DeepSeek-R1 是开源的,任何人都可以部署,实现本地运行大模型,真正的 OPEN。

比较有趣的是,DeepSeek 671B 模型,有非常多的“蒸馏版本”,而且“蒸馏版本”对高端显卡的依赖低,性能也基本满足个人使用。

本文将介绍如何在 macOS 上部署 Ollama 和 Open WebUI,实现本地运行 DeepSeek 大模型。

最后的效果:

macOS 运行 DeepSeek 大模型!看看 Ollama 和 Open WebUI如何配合本地部署 32B 版本 DeepSeek
部署思路

目前本地部署 DeepSeek-R1 的途径很多,主流的方法是使用 Ollama + Open WebUI 或者 Ollama + ChatbotUI;我个人是觉得 Ollama + Open WebUI 更加实用,所以我们就部署这两个“小家伙”吧:

Ollama: 一个轻量级、可扩展的框架,用于在本地计算机上构建和运行语言模型。支持从服务器拉取 Llama 3.3, DeepSeek-R1, Phi-4 和 Gemma 2 等模型。Open WebUI: 一个轻量的开源网页 AI 接口 程序,用于在浏览器中调用本地、远程接口语言模型。支持使用 Ollama 模型进行对话、文本生成和文本摘要等任务。

所以,我们是先本地部署 Ollama,之后使用 Ollama 拉取 DeepSeek-R1 模型,最后使用 Open WebUI 调用 Ollama 模型,实现本地运行 DeepSeek-R1 大模型。部署流程如下图所示:

macOS 运行 DeepSeek 大模型!看看 Ollama 和 Open WebUI如何配合本地流程图

我的电脑配置:

MacBook Pro (14-inch, 2023) M2Max 32GB
macOS 运行 DeepSeek 大模型!看看 Ollama 和 Open WebUI如何配合我的电脑配置
Ollama 部署

这里有两个方法可以部署 Ollama,分别是二进制包安装和Docker安装。

macOS 运行 DeepSeek 大模型!看看 Ollama 和 Open WebUI如何配合Nice ~
安装 Ollama

如果你想要更好的性能,那么推荐使用二进制包安装,因为二进制包安装的 Ollama 性能更好。进入 Ollama Releases 页面,下载最新版本的 Ollama:

macOS 运行 DeepSeek 大模型!看看 Ollama 和 Open WebUI如何配合下载 Ollama

你也可以通过 Ollama 官网的链接,自动下载最新版本的 Ollama:https://ollama.com/download/Ollama-darwin.zip

解压下载的 Ollama 文件,将内部的 Ollama 文件移动到应用文件夹内:

macOS 运行 DeepSeek 大模型!看看 Ollama 和 Open WebUI如何配合移动 Ollama

双击打开,点击安装后,即可在终端内调用:

macOS 运行 DeepSeek 大模型!看看 Ollama 和 Open WebUI如何配合安装 Ollama
代码语言:bash复制
# 移除二进制文件rm /usr/local/bin/ollama # 删除软件rm -rf ~/Library/Application\ Support/Ollama

最后,移除 Ollama 的登录项即可。

END

感谢阅读,如果觉得不错,欢迎点赞、评论、转发。如果有什么问题,欢迎在评论区留言。有机会,我们一起看看本地知识库如何构建 ~~

文中关于的知识介绍,希望对你的学习有所帮助!若是受益匪浅,那就动动鼠标收藏这篇《macOS上DeepSeek大模型,Ollama与OpenWebUI的绝佳组合》文章吧,也可关注golang学习网公众号了解相关技术文章。

相关阅读
更多>
最新阅读
更多>
课程推荐
更多>