Ir para o conteúdo principal
Voltar para a loja

llama.cpp

Developmentv1.0.0

Runtime C/C++ fundacional para LLM locais, usado por muitas ferramentas com GGUF.

Sem custo para usarFree

Plataforma / SO

macOSWindows🐧Linux
macoswindowslinux
#ai-software#free-ai-software#local-ai#llm-runtime#gguf#inference
Projeto externo · ligação gratuita · não vendido pelo AILoft

O llama.cpp é o projeto fundacional de inference local para modelos do tipo LLaMA e GGUF em CPU, GPU e Apple Silicon. Muitas ferramentas de desktop, servidores e wrappers assentam nele pela portabilidade, velocidade e amplo suporte. É mais um runtime para desenvolvedores do que uma app acabada, mas é central no ecossistema de IA local.