Ollama

Ollama 是在本地运行开放语言模型最简便的方式之一。官方网站强调安装快捷、可完全离线使用，以及日后再扩展到云端模型的选项。它适合想下载一个模型、在自己的设备上运行，并把它接入其他工具，而不必自建一整套推理栈的用户。