Torna al negozio
llama.cpp
Developmentv1.0.0Runtime C/C++ fondativo per LLM locali, usato da molti strumenti con modelli GGUF.
Nessun costo per l'utilizzoFree
Piattaforma / OS
⌘macOS▣Windows🐧Linux
macoswindowslinux
#ai-software#free-ai-software#local-ai#llm-runtime#gguf#inference
Progetto esterno · link gratuito · non venduto da AILoft
llama.cpp è il progetto fondativo di inference locale per modelli in stile LLaMA e GGUF su CPU, GPU e Apple Silicon. Molti strumenti desktop, server e wrapper si appoggiano su di esso per portabilità, velocità e ampio supporto. È più un runtime per sviluppatori che un'app finita, ma è centrale nell'ecosistema IA locale.