返回集成
⚙️
Local
Text Generation WebUI
Text Generation WebUI（作者 oobabooga）是本地运行语言模型最全面的开源界面。它支持众多模型格式（GGUF、GPTQ、AWQ、EXL2 等）、多种后端（llama.cpp、ExLlamaV2、TGI）和扩展，包括角色与角色扮演系统、笔记本模式，以及与 OpenAI 兼容的 API。对于需要最大程度掌控本地配置的高级用户和研究者，它是首选工具。
试用我们的智能体 → github.com/oobabooga/text-generation-webui
功能与能力
多后端（llama.cpp、ExLlamaV2）
多种模型格式（GGUF、GPTQ、AWQ）
兼容 OpenAI 的 API
扩展与插件
角色与角色扮演模式
笔记本模式
训练界面
🎯 最适合需要最大程度掌控本地 LLM 推理的高级用户、研究者和开发者。
✓ 优势
- 灵活性最高
- 扩展库庞大
- 支持所有模型格式
- 社区活跃
- 研究级功能
✗ 不足
- –安装复杂
- –配置多在命令行
- –不适合新手
- –资源占用高
- –破坏性变更频繁
💰 定价
免费且开源。您只需为硬件付费。