Text Generation WebUI (od oobabooga) je nejkompletnější open-source UI pro provoz lokálních jazykových modelů. Podporuje širokou škálu formátů modelů (GGUF, GPTQ, AWQ, EXL2 a další), backendy (llama.cpp, ExLlamaV2, TGI) a rozšíření včetně systému postav/roleplay, režimu poznámkového bloku a API kompatibilního s OpenAI. Nejoblíbenější nástroj pro pokročilé uživatele a výzkumníky.
Zdarma a open-source. Pouze náklady na hardware.
Spouštějte open-source AI lokálně. Plné soukromí a kontrola.
Desktopová aplikace pro stahování a spouštění lokálních LLM s přehledným GUI — bez programování.
Komplexní AI aplikace s RAG, agenty a multi-user podporou — funguje s lokálními i cloudovými LLM.