Powrót do sklepu

llama.cpp

Name: llama.cpp
Author: AILoft

Developmentv1.0.0

Fundamentalny runtime C/C++ dla lokalnych LLM, używany przez wiele narzędzi dla GGUF.

Brak kosztów użytkowaniaFree

Otwórz

Platforma / OS

⌘macOS▣Windows🐧Linux

macoswindowslinux

#ai-software#free-ai-software#local-ai#llm-runtime#gguf#inference

Projekt zewnętrzny · bezpłatny odnośnik · nie sprzedaje go AILoft

llama.cpp to fundamentalny projekt lokalnej inference dla modeli typu LLaMA i GGUF na CPU, GPU i Apple Silicon. Wiele narzędzi desktopowych, serwerów i wrapperów opiera się na nim dzięki przenośności, szybkości i szerokiemu wsparciu. To raczej runtime dla programistów niż gotowa aplikacja, ale kluczowy dla lokalnego ekosystemu AI.