AI 工具分类
本地部署 AI 工具有哪些？
把模型装在自己电脑上，数据不出本机
- 🦙 Ollama
一行命令在自己电脑上跑开源大模型，数据完全不出本机。 - 🍒 Cherry Studio
把各家 AI 模型装进同一个桌面客户端，一份界面管所有账号。 - 🖥️ LM Studio
图形化本地大模型客户端，搜索模型、下载、聊天和开本地接口都可视化。 - 🗄️ AnythingLLM
自托管知识库与 Agent 客户端，把文档、向量库和多家模型接在一起。 - 🌐 Jan
开源离线 AI 桌面客户端，隐私优先并可接本地或远程模型。 - 🪟 Open WebUI
自托管 AI 平台，为 Ollama 和多家模型提供完整聊天、知识库与权限界面。 - 🧰 GPT4All
轻量本地聊天客户端，低配置电脑也能离线运行多种开源模型。 - 🦙 llama.cpp
高性能本地推理引擎，让大模型在 CPU、GPU 和多种设备上运行。 - 🚀 vLLM
面向服务器的高吞吐大模型推理引擎，适合批量 API 和企业部署。 - 🧱 LocalAI
自托管 OpenAI 兼容 API，统一运行文本、图像、语音和嵌入模型。 - 🪄 Msty
多模型桌面客户端，并排比较本地与云端模型，支持知识库和联网。 - 🎭 SillyTavern
面向角色扮演和自定义聊天体验的本地前端，可接入多家模型。