Text Generation WebUI
Text Generation WebUI (von oobabooga) ist die funktionsreichste quelloffene Oberfläche für lokale Sprachmodelle. Sie unterstützt sehr viele Modellformate (GGUF, GPTQ, AWQ, EXL2 und weitere), verschiedene Backends (llama.cpp, ExLlamaV2, TGI) sowie Erweiterungen, darunter ein Charakter-/Rollenspielsystem, einen Notebook-Modus und eine OpenAI-kompatible API. Für Power-User und Forschende, die maximale Kontrolle über ihr lokales LLM-Setup wollen, ist sie das Werkzeug der Wahl.
Funktionen & Fähigkeiten
🎯 Am besten für Power-User, Forschende und Entwickler, die maximale Kontrolle über die lokale LLM-Inferenz brauchen.
✓ Vorteile
- Maximale Flexibilität
- Riesige Erweiterungsbibliothek
- Alle Modellformate
- Aktive Community
- Funktionen auf Forschungsniveau
✗ Nachteile
- –Aufwendige Installation
- –Einrichtung stark über die Kommandozeile
- –Nichts für Einsteiger
- –Ressourcenintensiv
- –Häufige inkompatible Änderungen
💰 Preise
Kostenlos und quelloffen. Es fallen nur Hardwarekosten an.
Kompatible Agenten
Weitere Integrationen
Ollama
Open-Source-KI lokal auf eigener Hardware. Volle Privatsphäre.
LM Studio
Desktop-App zum Entdecken, Herunterladen und Ausführen lokaler LLMs mit gepflegter Oberfläche — ohne Programmieren.
AnythingLLM
Rundum-KI-App mit RAG, Agenten und Mehrbenutzerbetrieb — funktioniert mit lokalen wie mit Cloud-LLMs.