本地部署
使用本地大模型
如果您想使用您自己的私有模型，您可以在本地安装 Ollama、LMStudio等本地大模型框架。这样可以在OfficeAI中使用自己的llama3、qwen3、Phi-3或者您自己微调的大模型。
示例：Ollama本地部署
1. 下载并安装Ollama
访问Ollama官网 ：访问 https://ollama.com/ 下载Ollama
选择操作系统 ：根据您的操作系统选择下载对应的安装包
下载安装包 ：点击进行安装
运行安装程序 ：下载好后，即可在Ollama Agent中选择模型
完成安装 ：也可以在官网模型中，复制模型名，粘贴到Ollama Agent中下载
验证安装 ：复制后，在对话框中输入任意指令，即可进行下载(也可以选个Size小一点的模型尝试哦!)
启动Ollama服务 ：安装完成后，打开终端验证Ollama是否正确安装，确保Ollama服务正在运行
2. 下载模型
安装完成后，您可以使用以下命令下载所需的模型：
# 下载Llama3模型
ollama pull llama3
# 下载Qwen模型
ollama pull qwen3
# 下载Phi-3模型
ollama pull phi3
3. 在OfficeAI中配置本地模型
进入OfficeAI设置 ：打开OfficeAI，进入设置页面
选择本地部署 ：在"大模型"选项卡中选择"本地"选项
配置模型 ：按照下图所示配置本地模型
设置方法
OfficeAI->设置->大模型设置->开启本地部署
选择"本地"->选择"框架"->点击"刷新模型列表"->选择"模型名"
保存
本地大模型服务
开启本地大模型后，OfficeAI会在本地启动一个服务与Ollama和LMStudio通信。您在右下角的托盘可以看到它，单击托盘图标，可看到本地大模型的运行状态。
04 十一月 2025