ストアに戻る

llama.cpp

Name: llama.cpp
Author: AILoft

Developmentv1.0.0

多くのツールが GGUF モデルに用いる、基盤的な C/C++ ローカル LLM ランタイム。

使用料はかかりませんFree

開く

プラットフォーム / OS

⌘macOS▣Windows🐧Linux

macoswindowslinux

#ai-software#free-ai-software#local-ai#llm-runtime#gguf#inference

外部プロジェクト · 無料リンク · AILoft の販売品ではありません

llama.cpp は、LLaMA 系および GGUF のモデルを CPU、GPU、Apple Silicon で動かすための基盤的なローカル推論プロジェクトです。可搬性と速度、幅広い対応から、多くのデスクトップツールやサーバー、ラッパーがこの上に構築されています。完成したアプリというより開発者向けのランタイムですが、ローカル AI のエコシステムには欠かせません。