Quay lại cửa hàng

llama.cpp

Name: llama.cpp
Author: AILoft

Developmentv1.0.0

Runtime LLM cục bộ viết bằng C/C++, nền tảng cho nhiều công cụ dùng mô hình GGUF.

Không mất phí sử dụngFree

Mở

Nền tảng / Hệ điều hành

⌘macOS▣Windows🐧Linux

macoswindowslinux

#ai-software#free-ai-software#local-ai#llm-runtime#gguf#inference

Dự án bên ngoài · liên kết miễn phí · AILoft không bán

llama.cpp là dự án inference cục bộ nền tảng cho các mô hình kiểu LLaMA và GGUF trên CPU, GPU và Apple Silicon. Nhiều công cụ desktop, máy chủ và lớp bao được xây trên nó nhờ tính khả chuyển, tốc độ và mức hỗ trợ rộng. Nó thiên về runtime cho lập trình viên hơn là một ứng dụng hoàn chỉnh, nhưng là mấu chốt của hệ sinh thái AI cục bộ.