Aller au contenu principal
Retour aux integrations
⚙️
Local

Text Generation WebUI

Text Generation WebUI (par oobabooga) est l’interface open source la plus complète pour exécuter des modèles de langage en local. Elle prend en charge une vaste gamme de formats de modèles (GGUF, GPTQ, AWQ, EXL2 et d’autres), plusieurs backends (llama.cpp, ExLlamaV2, TGI) et des extensions, dont un système de personnages/jeu de rôle, un mode carnet et une API compatible OpenAI. C’est l’outil de référence des utilisateurs avancés et des chercheurs qui veulent une maîtrise maximale de leur installation locale.

Essayer nos agents github.com/oobabooga/text-generation-webui

Fonctionnalites et capacites

Plusieurs backends (llama.cpp
ExLlamaV2)
Nombreux formats de modèles (GGUF
GPTQ
AWQ)
API compatible OpenAI
Extensions et greffons
Mode personnage/jeu de rôle
Mode carnet
Interface d’entraînement

🎯 Idéal pour les utilisateurs avancés, les chercheurs et les développeurs qui veulent une maîtrise maximale de l’inférence LLM locale.

Avantages

  • Souplesse maximale
  • Immense bibliothèque d’extensions
  • Tous les formats de modèles
  • Communauté active
  • Fonctions de niveau recherche

Inconvenients

  • Installation complexe
  • Configuration très en ligne de commande
  • Pas pour les débutants
  • Gourmand en ressources
  • Changements incompatibles fréquents

💰 Tarifs

Gratuit et open source. Seuls les coûts matériels s’appliquent.

Essayer nos agents

Parcourir les agents