Ollama spouští LLM lokálně na vašem hardwaru. Podporuje LLaMA, Mistral a další. Ideální pro organizace vyžadující kompletní datové soukromí.
Zdarma a open-source. Pouze náklady na hardware a elektřinu.
Desktopová aplikace pro stahování a spouštění lokálních LLM s přehledným GUI — bez programování.
Open-source alternativa ChatGPT pro provoz lokálních LLM zcela offline na vlastním počítači.
Bezplatný lokální LLM runner od Nomic AI — snadné nastavení, funguje na CPU i GPU bez technických znalostí.