Ollama

Ollama는 사용자의 하드웨어에서 로컬로 LLM을 실행. LLaMA, Mistral 등 지원. 완전한 데이터 프라이버시가 필요한 조직에 적합.

기능 및 성능

로컬 실행

완전한 프라이버시

API 비용 없음

오프라인 가능

다중 모델

커스텀 모델

무료 오픈소스. 하드웨어와 전기 비용만.

Desktop app for discovering, downloading, and running local LLMs with a polished GUI — no coding needed.

Open-source ChatGPT alternative for running local LLMs fully offline on your own machine.

Free, local LLM runner by Nomic AI — easy setup, runs on CPU and GPU without technical expertise.