Takaisin kauppaan
llama.cpp
Developmentv1.0.0Perustava C/C++-runtime paikallisille LLM:ille, monen työkalun käytössä GGUF:lle.
Ei kuluja käyttääFree
Alusta / Käyttöjärjestelmä
⌘macOS▣Windows🐧Linux
macoswindowslinux
#ai-software#free-ai-software#local-ai#llm-runtime#gguf#inference
Ulkoinen projekti · maksuton linkki · ei AILoftin myymä
llama.cpp on perustava projekti LLaMA-tyyppisten ja GGUF-mallien paikalliseen inferenceen suorittimilla, näytönohjaimilla ja Apple Siliconilla. Monet työpöytätyökalut, palvelimet ja wrapperit rakentuvat sen päälle siirrettävyyden, nopeuden ja laajan tuen ansiosta. Enemmän kehittäjien runtime kuin valmis sovellus, mutta keskeinen paikallisessa tekoälyekosysteemissä.