Zpět do obchodu
llama.cpp
Developmentv1.0.0Základní C/C++ lokální LLM runtime používaný mnoha nástroji nad GGUF modely.
Bezplatný externí zdrojZdarma
Platforma / OS
⌘macOS▣Windows🐧Linux
◌macos◌windows◌linux
#ai-software#free-ai-software#local-ai#llm-runtime#gguf#inference#local-privacy#for-developers
llama.cpp je základní lokální inference projekt pro LLaMA-like a GGUF modely na CPU, GPU a Apple Silicon. Mnoho desktopových nástrojů, serverů a wrapperů na něm staví díky přenositelnosti, rychlosti a široké podpoře. Jde spíše o vývojářský runtime než hotovou aplikaci, ale pro lokální AI ekosystém je klíčový.