Ollama spúšťa LLM lokálne na vašom hardvéri. Podporuje LLaMA, Mistral a ďalšie. Ideálne pre organizácie vyžadujúce úplnú ochranu údajov.
Zadarmo a open-source. Iba náklady na hardvér a elektrinu.
Desktop app for discovering, downloading, and running local LLMs with a polished GUI — no coding needed.
Open-source ChatGPT alternative for running local LLMs fully offline on your own machine.
Free, local LLM runner by Nomic AI — easy setup, runs on CPU and GPU without technical expertise.