Retour au magasin
llama.cpp
Developmentv1.0.0Runtime C/C++ fondateur pour LLM locaux, utilisé par de nombreux outils pour GGUF.
Aucun frais d'utilisationFree
Plateforme / OS
⌘macOS▣Windows🐧Linux
macoswindowslinux
#ai-software#free-ai-software#local-ai#llm-runtime#gguf#inference
Projet externe · lien gratuit · non vendu par AILoft
llama.cpp est le projet fondateur d'inference locale pour les modèles de type LLaMA et les modèles GGUF, sur CPU, GPU et Apple Silicon. De nombreux outils de bureau, serveurs et wrappers s'appuient dessus grâce à sa portabilité, sa rapidité et sa large compatibilité. Plutôt un runtime pour développeurs qu'une application finie, mais central dans l'écosystème IA local.