Text Generation WebUI
Text Generation WebUI (van oobabooga) is de meest complete opensource-interface om taalmodellen lokaal te draaien. Het ondersteunt zeer veel modelformaten (GGUF, GPTQ, AWQ, EXL2 en meer), verschillende backends (llama.cpp, ExLlamaV2, TGI) en uitbreidingen, waaronder een personage-/rolspelsysteem, een notitieboekmodus en een met OpenAI compatibele API. Het is het gereedschap bij uitstek voor gevorderde gebruikers en onderzoekers die maximale zeggenschap willen over hun lokale opstelling.
Functies en mogelijkheden
🎯 Het best voor gevorderde gebruikers, onderzoekers en ontwikkelaars die maximale zeggenschap nodig hebben over lokale LLM-inferentie.
✓ Voordelen
- Maximale flexibiliteit
- Enorme uitbreidingsbibliotheek
- Alle modelformaten
- Actieve gemeenschap
- Functies op onderzoeksniveau
✗ Nadelen
- –Ingewikkelde installatie
- –Instellen grotendeels via de opdrachtregel
- –Niets voor beginners
- –Vraagt veel middelen
- –Vaak brekende wijzigingen
💰 Prijzen
Gratis en opensource. Alleen hardwarekosten.
Compatibele agenten
Andere integraties
Ollama
Draai open-source AI-modellen lokaal. Volledige privacy en controle.
LM Studio
Desktopapp om lokale LLM’s te vinden, te downloaden en te draaien, met een verzorgde interface — zonder programmeren.
AnythingLLM
Alles-in-één AI-app met RAG, agents en meerdere gebruikers — werkt met lokale of cloud-LLM’s.