Kembali ke Toko

llama.cpp

Name: llama.cpp
Author: AILoft

Developmentv1.0.0

Runtime LLM lokal C/C++ yang mendasar, dipakai banyak alat untuk model GGUF.

Tidak ada biaya untuk digunakanFree

Buka

Platform / OS

⌘macOS▣Windows🐧Linux

macoswindowslinux

#ai-software#free-ai-software#local-ai#llm-runtime#gguf#inference

Proyek eksternal · tautan gratis · tidak dijual AILoft

llama.cpp adalah proyek inferensi lokal yang mendasar untuk model sejenis LLaMA dan GGUF di CPU, GPU, serta Apple Silicon. Banyak alat desktop, server, dan wrapper dibangun di atasnya berkat portabilitas, kecepatan, dan dukungannya yang luas. Ia lebih merupakan runtime bagi pengembang ketimbang aplikasi jadi, tetapi kunci bagi ekosistem AI lokal.