Text Generation WebUI

Text Generation WebUI (लेखक oobabooga) स्थानीय रूप से भाषा मॉडल चलाने के लिए सबसे व्यापक मुक्त स्रोत इंटरफ़ेस है। यह अनेक मॉडल प्रारूपों (GGUF, GPTQ, AWQ, EXL2 आदि), विभिन्न बैकएंड (llama.cpp, ExLlamaV2, TGI) और एक्सटेंशनों का समर्थन करता है, जिनमें पात्र एवं भूमिका-निर्वाह प्रणाली, नोटबुक मोड और OpenAI संगत API शामिल हैं। स्थानीय व्यवस्था पर अधिकतम नियंत्रण चाहने वाले उन्नत उपयोगकर्ताओं और शोधकर्ताओं के लिए यह पहली पसंद है।