Ollama — 설치·사용 가이드 (공식 문서 한글 정리)

11. 한눈에 보기

▸ 무엇인가요
Ollama(올라마)는 공개된 AI 모델(오픈 모델)을 내려받아 실행하고 관리하는 도구입니다. 깃허브 README 첫 줄은 "Start building with open models."(오픈 모델로 만들기를 시작하세요)입니다.
공식 다운로드 페이지는 Ollama가 모델을 두 가지 방식으로 돌린다고 설명합니다.
· 내 컴퓨터에서(로컬). 속도는 하드웨어에 따라 다릅니다.
· Ollama 클라우드에서. 클라우드 모델은 Ollama 서버에서 돌아가므로 내려받을 필요가 없습니다. 명령어 창(CLI)에서 클라우드 모델 이름은 :cloud 로 끝납니다(예: gemma4:cloud).
▸ 만든 곳
깃허브 저장소 github.com/ollama/ollama 의 LICENSE 파일 저작권 표기는 "Copyright (c) Ollama"입니다.
▸ 라이선스
MIT License (깃허브 저장소 LICENSE 파일 표기).
▸ 비용
공식 요금 페이지 표기로 Free 요금제는 $0이고, 내 하드웨어에서 모델을 돌리는 것은 항상 무제한입니다. 클라우드 모델용 유료 요금제는 따로 있습니다(8번 항목).
▸ 어디서 돌아가나요
macOS, Windows, Linux용 설치 방법이 공식 제공되고, Docker(도커, 프로그램을 담아 돌리는 상자인 컨테이너를 다루는 도구)용 공식 이미지 ollama/ollama 도 Docker Hub에 있습니다. README의 'Supported backends'(지원 백엔드, 실제 계산을 맡는 엔진) 항목에는 llama.cpp 가 적혀 있습니다.

22. 이런 분께 맞아요 / 이럴 땐 맞지 않아요

▸ 이런 분께 맞아요 (원문 근거)
· 내 컴퓨터에서 직접 오픈 모델을 돌려 보고 싶은 분. 빠른 시작 문서는 로컬 모델에 대해 "No API key required."(API 키 필요 없음)라고 적고 있습니다.
· 명령어 창(터미널)에서 바로 모델과 대화하고 싶은 분. ollama run 명령 하나로 모델을 내려받고 대화를 시작합니다.
· 내 앱이나 스크립트에서 AI를 부르고 싶은 개발자. REST API(주소로 요청을 보내 쓰는 방식)와 파이썬·자바스크립트 공식 라이브러리가 있습니다.
· Claude Code, Codex, OpenCode 같은 코딩 도구를 Ollama 모델과 연결해 쓰고 싶은 분. ollama launch 명령을 제공합니다.
▸ 이럴 땐 맞지 않을 수 있어요
· 강한 GPU(그래픽카드)가 없는 컴퓨터에서 큰 모델을 돌리려는 경우. 공식 다운로드 페이지는 "Large models are slow on a computer without a strong GPU."(큰 모델은 강한 GPU가 없는 컴퓨터에서 느리다)라고 적고, 로컬이 느릴 컴퓨터라면 클라우드 모델을 권하라고 안내합니다.
· 저장 공간이 부족한 경우. Windows·macOS 공식 문서는 모델이 수십~수백 GB가 될 수 있다고 적고 있습니다.
· 운영체제가 공식 요구사항보다 오래된 경우(예: Windows 10 22H2 미만, macOS Sonoma(v14) 미만).

33. 시작 전에 준비할 것

▸ 운영체제별 요구사항 (공식 문서)
· Windows: Windows 10 22H2 이상, Home 또는 Pro. NVIDIA 그래픽카드가 있으면 드라이버 551.61 이상. AMD는 ROCm v7 / HIP7 지원 드라이버(ROCm 가속) 또는 Vulkan 지원 AMD Radeon 드라이버(Vulkan 가속).
· macOS: MacOS Sonoma (v14) 이상. Apple M 시리즈(CPU와 GPU 지원) 또는 x86(CPU만 지원).
· Linux: 설치 스크립트 한 줄로 설치합니다. NVIDIA는 CUDA 드라이버, AMD는 ROCm v7 드라이버 설치가 '선택(optional)' 항목으로 안내됩니다.
▸ 저장 공간
· Windows 문서 기준 프로그램 설치에 최소 4GB가 필요합니다. 모델 저장 공간은 따로 필요하며 수십~수백 GB가 될 수 있습니다.
▸ 메모리
· 빠른 시작 문서의 예시 모델 gemma4:e2b 는 내려받는 크기가 약 7.2GB이고, 사용 가능한 VRAM(그래픽카드 전용 메모리) 8GB 또는 Mac의 통합 메모리를 권장합니다. 대화 기억 범위(context window)가 클수록 메모리가 더 필요하고, VRAM이 적으면 시스템 RAM을 쓸 수 있지만 응답이 느려질 수 있다고 적혀 있습니다.
▸ 지원 GPU (하드웨어 지원 문서)
· NVIDIA: compute capability 5.0 이상, 드라이버 550 이상. compute capability 5.0~6.2 카드는 드라이버 570 이상.
· Apple: Metal API로 GPU 가속을 지원합니다.
· Windows·Linux는 Vulkan으로 추가 GPU를 지원합니다.
▸ 계정·API 키
· 내 컴퓨터에서 로컬 모델만 쓰면 API 키가 필요 없습니다.
· 클라우드 모델을 쓰려면 로그인(ollama signin)하거나 ollama.com/settings/keys 에서 API 키를 만들어야 합니다. 공식 문서는 키를 브라우저 코드나 소스 관리(깃 등) 밖, 앱 서버에 두라고 안내합니다.

44. 설치 방법

아래 명령은 깃허브 README와 공식 문서에 적힌 그대로입니다.

1) macOS
터미널에서:
curl -fsSL https://ollama.com/install.sh | sh
또는 직접 내려받기: https://ollama.com/download/Ollama.dmg
macOS 문서는 ollama.dmg 를 열어 Ollama 앱을 Applications 폴더로 끌어다 놓는 방법을 권장 설치 방법으로 안내합니다. 처음 실행하면 ollama 명령(CLI)이 PATH(명령어를 찾는 경로)에 있는지 확인하고, 없으면 /usr/local/bin 에 링크를 만들도록 허락을 묻습니다.

2) Windows
PowerShell에서:
irm https://ollama.com/install.ps1 | iex
또는 직접 내려받기: https://ollama.com/download/OllamaSetup.exe
· 관리자 권한이 필요 없고, 기본으로 내 홈 폴더에 설치됩니다.
· 설치 위치를 바꾸려면 설치 파일을 다음처럼 실행합니다.
OllamaSetup.exe /DIR="d:\some\location"
· 모델 저장 위치를 바꾸려면 내 계정의 환경 변수에 OLLAMA_MODELS 를 만들고 원하는 경로를 넣습니다. 이미 실행 중이면 트레이 앱을 종료하고 시작 메뉴에서 다시 실행합니다.
· 설치 후 Ollama는 백그라운드에서 돌고, cmd·powershell 등에서 ollama 명령을 쓸 수 있습니다.

3) Linux
curl -fsSL https://ollama.com/install.sh | sh
수동 설치(공식 문서):
curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \
| sudo tar x -C /usr
ollama serve
다른 터미널에서 실행 확인:
ollama -v
· AMD GPU는 ollama-linux-amd64-rocm.tar.zst 를 추가로, ARM64 기기는 ollama-linux-arm64.tar.zst 를 내려받아 같은 방식으로 풉니다.
· 시작 서비스 등록(공식 문서 권장)은 문서의 사용자 생성과 /etc/systemd/system/ollama.service 파일 예시를 따른 뒤 다음을 실행합니다.
sudo systemctl daemon-reload
sudo systemctl enable ollama
sudo systemctl start ollama
sudo systemctl status ollama
· 업데이트는 설치 스크립트를 다시 실행하면 됩니다.

4) Docker
공식 이미지 ollama/ollama 가 Docker Hub에 있습니다. CPU만 쓸 때:
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
NVIDIA GPU(먼저 NVIDIA Container Toolkit 설치):
docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
AMD GPU(rocm 태그):
docker run -d --device /dev/kfd --device /dev/dri -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama:rocm
컨테이너 안에서 모델 실행:
docker exec -it ollama ollama run llama3.2

55. 처음 실행해 보기

1) 시작 화면 열기
앱을 열거나 터미널에서 다음을 입력합니다.
ollama
README에 따르면 모델을 실행할지, 또는 Claude Code·OpenClaw·OpenCode·Codex·Copilot 같은 기존 에이전트/앱에 Ollama를 연결할지 묻는 안내가 나옵니다. 빠른 시작 문서는 클라우드 모델을 쓰려면 로그인하고, 아니면 로컬 모델을 고르라고 안내합니다.

2) 모델과 대화하기
README 예시(Gemma 4):
ollama run gemma4
빠른 시작 문서 예시(더 작은 모델):
ollama run gemma4:e2b
Ollama가 모델을 내려받고 내 컴퓨터에서 대화를 시작합니다. 끝낼 때는 /bye 를 입력합니다. Linux에서는 서버가 아직 돌고 있지 않으면 ollama serve 로 먼저 시작합니다.

3) 모델 목록 보기
전체 모델 목록은 https://ollama.com/library 에 있습니다. 클라우드 모델 목록은 https://ollama.com/search?c=cloud 입니다.

4) 내 프로그램에서 부르기 (REST API)
Ollama는 모델을 실행·관리하는 REST API를 제공하며, 내 컴퓨터의 http://localhost:11434 에서 열립니다. README 예시:
curl http://localhost:11434/api/chat -d '{
"model": "gemma4",
"messages": [{
"role": "user",
"content": "Why is the sky blue?"
}],
"stream": false
}'
모든 엔드포인트(요청 주소) 설명은 https://docs.ollama.com/api 에 있습니다.

5) 파이썬 라이브러리
pip install ollama
from ollama import chat

response = chat(model='gemma4', messages=[
{
'role': 'user',
'content': 'Why is the sky blue?',
},
])
print(response.message.content)

6) 자바스크립트 라이브러리
npm i ollama
import ollama from "ollama";

const response = await ollama.chat({
model: "gemma4",
messages: [{ role: "user", content: "Why is the sky blue?" }],
});
console.log(response.message.content);

66. 알아 둘 기능

README와 공식 문서에 적힌 기능을 옮겼습니다.
· 오픈 모델 실행·대화: ollama run <모델 이름>
· 모델 미리 내려받기: 빠른 시작 문서 예시
ollama pull gemma4:e2b
· REST API: 모델 실행·관리용. 빠른 시작 문서에는 OpenAI Chat Completions(/v1/chat/completions), OpenAI Responses(/v1/responses), Anthropic Messages(/v1/messages) 형식 호환 예시도 있습니다. 단, 각 호환 기능은 원래 API의 일부만 지원한다고 적혀 있습니다.
· 공식 라이브러리: ollama-python, ollama-js
· 코딩 도구 연동: 예) ollama launch claude. README의 지원 연동 목록은 Claude Code, Codex, Copilot CLI, DeepSeek Harness, Droid, OpenCode 입니다.
· AI 비서: README는 ollama launch openclaw 로 OpenClaw를 써서 WhatsApp, Telegram, Slack, Discord 등에서 Ollama를 개인 AI 비서로 쓸 수 있다고 적고 있습니다.
· 데스크톱 앱 연결: macOS에서 Ollama를 열고 Apps 를 선택해 Claude 또는 ChatGPT(Desktop)를 연결할 수 있습니다(빠른 시작 문서).
· 클라우드 모델: 내려받지 않고 Ollama 서버에서 실행합니다. 앱·CLI에서는 gemma4:cloud 같은 이름을 쓰고, 코드에서는 https://ollama.com 의 API를 부릅니다.
· 공식 문서 목록(README): CLI reference, REST API reference, Importing models(모델 가져오기), Modelfile reference(모델 설정 파일), Building from source(소스에서 직접 빌드).
· Community Integrations(커뮤니티 연동): README에 웹 채팅 화면·데스크톱 앱·편집기 확장 등 외부 프로젝트 목록이 있습니다. 각각 별도 저장소입니다.

77. 막힐 때 / 주의할 점

공식 문서에 적힌 경고·제한·해결 방법입니다(속도·저장 공간은 2·3번 항목 참고).
· Windows 10 화면 깨짐: 진행 표시에 유니코드 문자를 써서 오래된 터미널 글꼴에서는 네모로 보일 수 있습니다. 이때는 터미널 글꼴 설정을 바꿔 보라고 안내합니다.
· Windows 파일 위치: %LOCALAPPDATA%\Ollama(로그 app.log·server.log·upgrade.log와 내려받은 업데이트), %LOCALAPPDATA%\Programs\Ollama(실행 파일), %HOMEPATH%\.ollama(모델과 설정).
· macOS 파일 위치: ~/.ollama(모델과 설정), ~/.ollama/logs(로그).
· Linux 서비스 로그 보기:
journalctl -e -u ollama
· Linux에서 절전/재개 뒤 NVIDIA GPU를 찾지 못하고 CPU로 돌 때가 있습니다. 공식 문서의 해결 명령:
sudo rmmod nvidia_uvm && sudo modprobe nvidia_uvm
· 일부 RDNA2 / Radeon RX 6000 계열(RX 6800급 포함)은 현재 Windows AMD 드라이버에서 ROCm v7 이 잡히지 않을 수 있고, 이때는 기본으로 켜진 Vulkan이 권장 대안이라고 적혀 있습니다.
· Linux 수동 설치로 업그레이드할 때는 먼저 이전 라이브러리를 지우라고 안내합니다.
sudo rm -rf /usr/lib/ollama
· Windows 제거: 설정의 Add or remove programs(앱 추가/제거)에서 지웁니다. 모델 저장 위치(OLLAMA_MODELS)를 바꿨다면 내려받은 모델은 설치 프로그램이 지우지 않습니다.
· 클라우드 데이터 처리: 클라우드 문서는 Ollama가 클라우드 프롬프트와 응답을 요청 처리에 쓰고 모델 학습에는 쓰지 않는다고 적고 있습니다. 로컬 모델만 쓰려면 클라우드 기능을 끌 수 있다고 안내합니다(FAQ).
· 클라우드 모델 은퇴(지원 종료): 최근 쓴 모델의 은퇴 예정이 사용량 설정 화면에 표시되며, 내려받은 로컬 모델은 영향이 없습니다.
· 하드웨어 지원 문서(AMD 항목)는 추가 도움이 필요하면 Discord 또는 GitHub issues 로 문의하라고 안내합니다.

88. 라이선스와 비용

▸ 라이선스
MIT License (깃허브 저장소 LICENSE 파일, 저작권 표기 "Copyright (c) Ollama").
LICENSE 원문 요지: 소프트웨어 사본을 얻은 누구에게나 무료로 사용·복사·수정·병합·게시·배포·재라이선스·판매할 수 있는 권한을 주며, 위 저작권 표시와 허가 문구를 모든 사본 또는 상당 부분에 포함해야 합니다. 소프트웨어는 "AS IS"(있는 그대로) 제공되며 어떤 종류의 보증도 없습니다.
※ 이 라이선스는 Ollama 프로그램 저장소 기준입니다. Ollama로 내려받는 각 AI 모델의 라이선스·이용 조건은 이 가이드가 연 원문에서 확인되지 않았습니다. 모델별 페이지에서 따로 확인하세요.
▸ 비용 (ollama.com/pricing 표기)
· Free: $0. 로컬 실행 포함, 시작용 사용량 크레딧과 시작용 모델 접근 포함, 크레딧을 추가하면 모든 모델 사용 가능, 서비스 수수료 없음.
· Pro: 월 $20 또는 연 $200(연간 청구). 매달 $60 사용 크레딧, 더 큰 pro 모델 접근, 여러 모델 동시 실행.
· Team: 월 $500(Early access). 사용자 수 무제한, 팀이 함께 쓰는 매달 $1,000 사용 크레딧.
· Enterprise: Custom(별도 협의).
· 클라우드 모델은 백만 토큰(글자 조각 단위)당 요금으로 사용량 크레딧에서 차감됩니다. 평일 12:00~18:00 UTC 밖과 주말 내내는 오프피크 요금이 적용된다고 적혀 있습니다.
· FAQ: "Running models on your own hardware is always unlimited."(내 하드웨어에서 모델을 돌리는 것은 항상 무제한)
· 동시 요청 수: Free 1, Pro 3, Max·Team 10.
· 계정은 1인 1계정입니다("Ollama is one account per person.").
가격은 바뀔 수 있으니 결제 전에 요금 페이지 원문을 확인하세요.

99. 면책 및 원문 확인

이 문서는 원저자의 공식 사이트와 깃허브 문서를 한국어로 옮겨 정리한 안내입니다. 가고파는 이 소프트웨어를 개발·배포·보증하지 않으며, 설치·사용으로 생기는 결과(데이터 손실, 보안 문제, 비용, 라이선스 위반 등)에 책임지지 않습니다. 번역·요약 과정의 오류가 있을 수 있고 원문은 수시로 바뀌므로, 설치 전에 반드시 아래 원문(공식 사이트·깃허브)에서 최신 내용을 확인하세요. 제휴 링크·광고가 없습니다.

추가 안내: 이 문서의 MIT 라이선스 설명은 Ollama 프로그램 저장소 기준이며, Ollama로 내려받는 각 모델의 이용 조건은 이 문서에서 확인하지 않았습니다. 클라우드 모델과 Pro·Team·Enterprise 요금제는 Ollama의 유료 서비스이며, 요금은 ollama.com/pricing 원문을 기준으로 하세요.

원문 주소(복사해서 브라우저 주소창에 붙여넣기):
· 공식 사이트: https://ollama.com
· GitHub 저장소: https://github.com/ollama/ollama
· 공식 문서: https://docs.ollama.com

이 자료를 보는 방법

이 안내는 인스타그램 카드·릴스에서 다 담지 못한 내용을 담은 무료 자료입니다. 로그인이나 이메일 확인 없이 바로 읽을 수 있고, 링크는 새 창에서 열립니다.

가고파 생활 가이드 시리즈

이 자료는 가고파(Natas Market)가 생활 주제별로 만들어 두는 무료 DM 자료 중 하나입니다. 인스타그램·스레드 카드뉴스에서 줄인 설명을 여기서 자세히 풀어 씁니다.

각 자료는 카드뉴스 1편과 한 세트입니다. 카드에서 “댓글에 ○○ 남겨주세요”로 안내한 경우, 그 키워드를 남기면 이 자료 링크를 받습니다.

자주 묻는 질문