חזרה לחנות
llama.cpp
Developmentv1.0.0סביבת ריצה מקומית בסיסית ל-LLM ב-C/C++ שכלים רבים נשענים עליה עבור GGUF.
אין עלות לשימושFree
פלטפורמה / מערכת הפעלה
⌘macOS▣Windows🐧Linux
macoswindowslinux
#ai-software#free-ai-software#local-ai#llm-runtime#gguf#inference
פרויקט חיצוני · קישור חינמי · לא נמכר על ידי AILoft
llama.cpp הוא פרויקט ההסקה המקומית הבסיסי למודלים ממשפחת LLaMA ולפורמט GGUF על מעבדים, על GPU ועל Apple Silicon. בזכות הניידות, המהירות והתמיכה הרחבה נבנו עליו כלי שולחן עבודה רבים, שרתים ועטיפות. זו סביבת ריצה למפתחים יותר מאשר יישום מוגמר, אך היא מרכזית לאקוסיסטם של בינה מלאכותית מקומית.