Ollama

Ollama は、オープンな言語モデルをローカルで実行する最も手軽な方法のひとつです。公式サイトでは、インストールの手軽さ、オフラインでの利用、そして将来的にクラウドモデルへ拡張できる点が強調されています。自前の推論スタックを構築せずに、モデルをダウンロードして自分のデバイスで動かし、他のツールと連携させたい人に向いています。