Tch
Tch
Published on 2025-02-21 / 12 Visits
0
0

MacOS本地部署DeepSeek

1. 系统介绍

芯片 Apple M4

内存 16 GB

2. Ollama安装与配置

Ollama是一个开源框架,专为在本地机器上便捷部署和运行大型语言模型(LLM)而设计。

打开Ollama的官网,选择适合的系统,点击下载。下载速度慢的可以复制链接地址到迅雷下载。

https://ollama.com/download

下载完成之后,执行安装。

llama3.2是Meta的大模型,不需要run,直接Finish关闭窗口。

在终端输入ollama -v命令验证是否安装成功。

出现上述则表示安装成功,可在浏览器访问http://localhost:11434/验证。

3. DeepSeek 模型部署

进入Ollama官网主页,就有DeepSeek模型的链接。

https://ollama.com/

根据电脑的配置选择选择8b参数版本。

复制命令ollama run deepseek-r1:8b在终端执行,安装时长取决于参数大小和网速。

安装好了,提个问题问问它是谁。

4. 安装交互UI

Chatbox AI 是一款 AI 客户端应用和智能助手,支持众多先进的 AI 模型和 API。

https://chatboxai.app/zh#download

在官网选择适合的系统进行下载

下载安装之后打开,选择使用自己的 API Key 或本地模型

选择之前安装的Ollama API

配置本机地址,默认http://localhost:11434/

好了,再提个问题问问它是谁。

这就可以用了。

当然还有别的交互方式,浏览器插件,Web端等等,就不去研究了,够用就行。

以上。


Comment