1. 系统介绍
芯片 Apple M4
内存 16 GB
2. Ollama安装与配置
Ollama是一个开源框架,专为在本地机器上便捷部署和运行大型语言模型(LLM)而设计。
打开Ollama的官网,选择适合的系统,点击下载。下载速度慢的可以复制链接地址到迅雷下载。
下载完成之后,执行安装。
llama3.2
是Meta的大模型,不需要run
,直接Finish
关闭窗口。
在终端输入ollama -v
命令验证是否安装成功。
出现上述则表示安装成功,可在浏览器访问http://localhost:11434/
验证。
3. DeepSeek 模型部署
进入Ollama官网主页,就有DeepSeek模型的链接。
根据电脑的配置选择选择8b参数版本。
复制命令ollama run deepseek-r1:8b
在终端执行,安装时长取决于参数大小和网速。
安装好了,提个问题问问它是谁。
4. 安装交互UI
Chatbox AI 是一款 AI 客户端应用和智能助手,支持众多先进的 AI 模型和 API。
在官网选择适合的系统进行下载
下载安装之后打开,选择使用自己的 API Key 或本地模型
。
选择之前安装的Ollama API
。
配置本机地址,默认http://localhost:11434/
。
好了,再提个问题问问它是谁。
这就可以用了。
当然还有别的交互方式,浏览器插件,Web端等等,就不去研究了,够用就行。
以上。