Zpět na integrace
⚙️
Local
Text Generation WebUI
Text Generation WebUI (od oobabooga) je nejkompletnější open-source UI pro provoz lokálních jazykových modelů. Podporuje širokou škálu formátů modelů (GGUF, GPTQ, AWQ, EXL2 a další), backendy (llama.cpp, ExLlamaV2, TGI) a rozšíření včetně systému postav/roleplay, režimu poznámkového bloku a API kompatibilního s OpenAI. Nejoblíbenější nástroj pro pokročilé uživatele a výzkumníky.
Vyzkoušejte naše agenty → github.com/oobabooga/text-generation-webui
Funkce a schopnosti
Podpora více backendů (llama.cpp
ExLlamaV2)
Mnoho formátů modelů (GGUF
GPTQ
AWQ)
API kompatibilní s OpenAI
Rozšíření a pluginy
Režim postava/roleplay
Režim poznámkového bloku
UI pro trénování
🎯 Nejlepší pro pokročilé uživatele, výzkumníky a vývojáře potřebující maximální kontrolu nad lokální LLM inferencí.
✓ Výhody
- Maximální flexibilita
- Obrovská knihovna rozšíření
- Všechny formáty modelů
- Aktivní komunita
- Funkce na úrovni výzkumu
✗ Nevýhody
- –Složitá instalace
- –Nastavení přes příkazový řádek
- –Nevhodné pro začátečníky
- –Náročné na zdroje
- –Časté změny způsobující nekompatibilitu
💰 Ceny
Zdarma a open-source. Pouze náklady na hardware.
Kompatibilní agenti
Další integrace
🦙Local AI
Ollama
Spouštějte open-source AI lokálně. Plné soukromí a kontrola.
🎛️Local
LM Studio
Desktopová aplikace pro stahování a spouštění lokálních LLM s přehledným GUI — bez programování.
🔧Local
AnythingLLM
Komplexní AI aplikace s RAG, agenty a multi-user podporou — funguje s lokálními i cloudovými LLM.