Ollama — один із найпростіших способів запускати відкриті мовні моделі локально. Офіційний сайт наголошує на швидкому встановленні, роботі офлайн і можливості згодом перейти на хмарні моделі. Підходить тим, хто хоче завантажити модель, запустити її на своєму пристрої й підключити до інших інструментів без побудови власного стека інференсу.