llama.cpp

Name: llama.cpp
Author: AILoft

Developmentv1.0.0

基础性的 C/C++ 本地 LLM 运行时，众多 GGUF 工具的底层。

无需支付任何费用Free

平台 / 操作系统

⌘macOS▣Windows🐧Linux

macoswindowslinux

#ai-software#free-ai-software#local-ai#llm-runtime#gguf#inference

外部项目 · 免费链接 · 非 AILoft 出售

llama.cpp 是面向 LLaMA 系与 GGUF 模型的基础性本地推理项目，可运行在 CPU、GPU 与 Apple Silicon 上。凭借可移植性、速度与广泛支持，许多桌面工具、服务端与封装层都构建在它之上。它更像面向开发者的运行时而非成品应用，但对本地 AI 生态至关重要。