Ollama
Ollama는 로컬의 기본값입니다: CLI 하나, 모델 라이브러리, localhost:11434/v1의 OpenAI 호환 서버. `ollama pull llama3.3`을 한 번 받으면 이후엔 평범한 프로바이더처럼 부릅니다.
Ollama는 로컬의 기본값입니다: CLI 하나, 모델 라이브러리, localhost:11434/v1의 OpenAI 호환 서버. `ollama pull llama3.3`을 한 번 받으면 이후엔 평범한 프로바이더처럼 부릅니다.
macOS, Linux, Windows. 쿼터 없음. 직접 Cloud를 선택하지 않는 한 요청은 머신 밖으로 나가지 않습니다. GUI는 LM Studio, 프로덕션 배칭은 vLLM입니다.
- 최대 컨텍스트
- Whatever your RAM allows
- 무료 요금제
- 무제한·비공개
- 요구사항
- 아무것도 없음 — 계정 불필요
엔드포인트
기본 URL
http://localhost:11434/v1속도 제한
None — it is your machine- OpenAI 호환
- 공식 SDK: Ollama SDK
- 텍스트
- 이미지
- 코드
- 비전
- 추론
코드 예시
npm install openaiimport OpenAI from 'openai'
const client = new OpenAI({
baseURL: 'http://localhost:11434/v1',
apiKey: 'not-needed'
})
const response = await client.chat.completions.create({
model: 'llama3.3',
messages: [{ role: 'user', content: 'Explain closures in one paragraph.' }]
})
console.log(response.choices[0].message.content)pip install openaifrom openai import OpenAI
client = OpenAI(
base_url="http://localhost:11434/v1",
api_key="not-needed",
)
response = client.chat.completions.create(
model="llama3.3",
messages=[{"role": "user", "content": "Explain closures in one paragraph."}],
)
print(response.choices[0].message.content)curl http://localhost:11434/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "llama3.3",
"messages": [{"role": "user", "content": "Explain closures in one paragraph."}]
}'npm install ollamaimport { Ollama } from 'ollama'
const ollama = new Ollama({ host: 'http://localhost:11434' })
const response = await ollama.chat({
model: 'llama3.3',
messages: [{ role: 'user', content: 'Explain closures in one paragraph.' }]
})
console.log(response.message.content)pip install ollamafrom ollama import Client
client = Client(host="http://localhost:11434")
response = client.chat(
model="llama3.3",
messages=[{"role": "user", "content": "Explain closures in one paragraph."}],
)
print(response["message"]["content"])알아두면 좋은 점
- 첫 요청 전에 `ollama pull llama3.3`을 한 번 실행하세요.
무료로 받는 모델5
- Llama 3.3 70B
llama-3.3-70b - Qwen 3
qwen3 - GPT-OSS 120B
gpt-oss-120b - DeepSeek R1
deepseek-ai/DeepSeek-R1 - DeepSeek V4
deepseek-v4-flash