本地 AI(可选)
OpenHuman 可以在您的机器上运行本地模型,适用于保持数据在设备上很重要的场景:记忆嵌入、摘要树构建、后台推理循环,以及明确路由的聊天或推理工作负载。它是可选的,默认关闭。
开启时在本地运行的内容
| 工作负载 | 默认模型 |
|---|---|
| 记忆嵌入 | all-minilm:latest |
| 摘要树构建 | gemma3:1b-it-qat |
| 心跳循环 | 小型聊天模型 |
| 学习/反思 | 小型聊天模型 |
| 潜意识 | 小型聊天模型 |
保持在云端的内容
| 工作负载 | 原因 |
|---|---|
| 聊天 | 前沿推理质量,除非另有配置 |
| 推理 | 更强的多步质量 |
| 视觉 | 需要更多计算 |
| STT / TTS | 后端代理 |
工作原理
OpenHuman 支持两个本地提供商路径:
- Ollama - 用于捆绑模型生命周期和嵌入
- LM Studio - 通过其本地 OpenAI 兼容服务器
对于 Ollama,OpenHuman 与其 OpenAI 兼容的 /v1 端点通信。如果 Ollama 不可达,请求会透明地回退到远程提供商。
选择加入
在桌面应用中:设置 → AI 与技能 → 本地 AI
您可以选择预设:
- "仅嵌入"
- "记忆 + 反思"
- "全部本地"
您需要的条件
- Ollama 或 LM Studio 已安装并在本地运行
- 足够的磁盘空间存放模型(gemma3 约 700 MB,all-minilm 约 23 MB)
- 推荐 8 GB+ RAM,理想 16 GB+