跳到主要内容

🏠 LocalAI

免费开源的 OpenAI 替代方案:兼容 OpenAI 的本地 REST API,无需 GPU 即可在消费级硬件上运行大语言模型、图像生成、语音转写合成与向量嵌入等推理任务

LocalAI 是一个可组合的本地 AI 技术栈:一个会说 OpenAI 与 Anthropic API 的轻量内核,按需为每个模型加载独立后端。它是 OpenAI / Anthropic 的 drop-in 替代品,无需改代码就能把云端 API 换成本地推理——隐私优先、MIT 许可、消费级硬件即可运行,甚至不需要 GPU。

站点信息

项目
中文文档站https://localai.docpage.cn
GitHub 仓库https://github.com/mudler/LocalAI
分类LLM 工具

访问

👉 访问 LocalAI 中文文档站

👉 GitHub 源码仓库