Ollama

Ollama er en av de enkleste måtene å kjøre åpne språkmodeller lokalt. Det offisielle nettstedet framhever rask installasjon, bruk offline og muligheten til senere å skalere opp til skymodeller. Passer for den som vil laste ned en modell, kjøre den på egen enhet og koble den til andre verktøy uten å bygge en egen inference-stack.