กลับไปที่การเชื่อมต่อ
⚙️
Local
Text Generation WebUI
Text Generation WebUI (ผู้เขียนคือ oobabooga) เป็นอินเทอร์เฟซโอเพนซอร์สที่ครอบคลุมที่สุดสำหรับการรันโมเดลภาษาในเครื่อง รองรับรูปแบบโมเดลจำนวนมาก (GGUF, GPTQ, AWQ, EXL2 และอื่น ๆ) แบ็กเอนด์หลายแบบ (llama.cpp, ExLlamaV2, TGI) และส่วนขยายต่าง ๆ รวมถึงระบบตัวละครและการสวมบทบาท โหมดสมุดบันทึก และ API ที่เข้ากันได้กับ OpenAI นี่คือเครื่องมืออันดับแรกสำหรับผู้ใช้ขั้นสูงและนักวิจัยที่ต้องการควบคุมการตั้งค่าในเครื่องได้มากที่สุด
ลองใช้ Agent ของเรา → github.com/oobabooga/text-generation-webui
คุณสมบัติและความสามารถ
หลายแบ็กเอนด์ (llama.cpp
ExLlamaV2)
รูปแบบโมเดลจำนวนมาก (GGUF
GPTQ
AWQ)
API ที่เข้ากันได้กับ OpenAI
ส่วนขยายและปลั๊กอิน
โหมดตัวละครและการสวมบทบาท
โหมดสมุดบันทึก
อินเทอร์เฟซการฝึกโมเดล
🎯 เหมาะที่สุดสำหรับผู้ใช้ขั้นสูง นักวิจัย และนักพัฒนาที่ต้องการควบคุมการอนุมาน LLM ในเครื่องได้มากที่สุด
✓ ข้อดี
- ความยืดหยุ่นสูงสุด
- คลังส่วนขยายมหาศาล
- รองรับทุกรูปแบบโมเดล
- ชุมชนคึกคัก
- ความสามารถระดับงานวิจัย
✗ ข้อเสีย
- –การติดตั้งซับซ้อน
- –การตั้งค่าส่วนใหญ่ผ่านบรรทัดคำสั่ง
- –ไม่เหมาะกับผู้เริ่มต้น
- –ใช้ทรัพยากรสูง
- –มีการเปลี่ยนแปลงที่ทำให้ใช้งานเดิมไม่ได้บ่อย
💰 ราคา
ฟรีและเป็นโอเพนซอร์ส คุณจ่ายเฉพาะค่าฮาร์ดแวร์เท่านั้น
Agent ที่เข้ากันได้
การเชื่อมต่ออื่น ๆ
🦙Local AI
Ollama
รันโมเดล AI โอเพนซอร์สในเครื่อง ความเป็นส่วนตัวและการควบคุมเต็มที่
🎛️Local
LM Studio
แอปพลิเคชันบนเดสก์ท็อปสำหรับค้นหา ดาวน์โหลด และรัน LLM ในเครื่อง อินเทอร์เฟซขัดเกลาดี ไม่ต้องเขียนโปรแกรม
🔧Local
AnythingLLM
แอป AI อเนกประสงค์พร้อม RAG เอเจนต์ และรองรับผู้ใช้หลายคน ทำงานได้กับ LLM ทั้งในเครื่องและบนคลาวด์