Text Generation WebUI
O Text Generation WebUI (de oobabooga) é a interface de código aberto mais completa para executar modelos de linguagem localmente. Suporta uma vasta gama de formatos de modelo (GGUF, GPTQ, AWQ, EXL2 e outros), vários backends (llama.cpp, ExLlamaV2, TGI) e extensões, entre elas um sistema de personagens e representação, um modo caderno e uma API compatível com OpenAI. É a ferramenta de eleição de utilizadores avançados e investigadores que querem o máximo controlo sobre a sua instalação local.
Funcionalidades e capacidades
🎯 Ideal para utilizadores avançados, investigadores e quem desenvolve e precisa do máximo controlo sobre a inferência local de LLM.
✓ Vantagens
- Flexibilidade máxima
- Enorme biblioteca de extensões
- Todos os formatos de modelo
- Comunidade ativa
- Funcionalidades de nível de investigação
✗ Desvantagens
- –Instalação complexa
- –Configuração muito por linha de comandos
- –Não é para principiantes
- –Exigente em recursos
- –Alterações incompatíveis frequentes
💰 Preços
Gratuito e de código aberto. Só há custos de equipamento.
Agentes compatíveis
Outras integrações
Ollama
Execute modelos de IA open-source localmente. Privacidade e controlo totais.
LM Studio
Aplicação de ambiente de trabalho para descobrir, descarregar e executar LLM localmente, com uma interface cuidada e sem programar.
AnythingLLM
Aplicação de IA tudo-em-um com RAG, agentes e multiutilizador — funciona com LLM locais ou de nuvem.