Ollama

Ollama es una de las formas más sencillas de ejecutar modelos de lenguaje abiertos en local. El sitio oficial destaca la instalación rápida, el uso sin conexión y la opción de escalar más adelante a modelos en la nube. Adecuado para quien quiere descargar un modelo, ejecutarlo en su propio dispositivo y conectarlo a otras herramientas sin montar su propio stack de inference.