Ollama е един от най-лесните начини за локално стартиране на отворени езикови модели. Официалният сайт подчертава бързата инсталация, офлайн употребата и възможността за по-късно преминаване към облачни модели. Подходящо за потребители, които искат да изтеглят модел, да го стартират на собственото си устройство и да го свържат с други инструменти, без да изграждат собствен стек за инференс.