통합으로 돌아가기
⚙️
Local
Text Generation WebUI
Text Generation WebUI(제작자 oobabooga)는 언어 모델을 로컬에서 실행하기 위한 가장 종합적인 오픈 소스 인터페이스입니다. 다양한 모델 형식(GGUF, GPTQ, AWQ, EXL2 등), 여러 백엔드(llama.cpp, ExLlamaV2, TGI), 캐릭터·롤플레이 시스템, 노트북 모드, OpenAI 호환 API를 포함한 확장 기능을 지원합니다. 로컬 구성을 최대한 통제하려는 고급 사용자와 연구자에게 첫 번째 선택지입니다.
에이전트 체험하기 → github.com/oobabooga/text-generation-webui
기능 및 성능
다중 백엔드(llama.cpp
ExLlamaV2)
다양한 모델 형식(GGUF
GPTQ
AWQ)
OpenAI 호환 API
확장 기능과 플러그인
캐릭터·롤플레이 모드
노트북 모드
학습 인터페이스
🎯 로컬 LLM 추론을 최대한 통제하려는 고급 사용자, 연구자, 개발자에게 가장 적합합니다.
✓ 장점
- 최대한의 유연성
- 방대한 확장 기능 라이브러리
- 모든 모델 형식 지원
- 활발한 커뮤니티
- 연구 수준의 기능
✗ 단점
- –설치가 복잡
- –설정 대부분이 명령줄
- –초보자에게 부적합
- –리소스 소모가 큼
- –호환성 깨는 변경이 잦음
💰 가격
무료이며 오픈 소스입니다. 비용은 하드웨어뿐입니다.