it's free*.ai

Ollama

Ollama es el estándar local: un CLI, una biblioteca de modelos, un servidor compatible con OpenAI en localhost:11434/v1. `ollama pull llama3.3` una vez, y luego lo llamas como a cualquier otro proveedor.

Ollama es el estándar local: un CLI, una biblioteca de modelos, un servidor compatible con OpenAI en localhost:11434/v1. `ollama pull llama3.3` una vez, y luego lo llamas como a cualquier otro proveedor.

macOS, Linux, Windows. Sin cuota. La petición nunca sale de la máquina salvo que optes por Cloud. Para interfaz gráfica, LM Studio; para batching de producción, vLLM.

Contexto máximo
Whatever your RAM allows
Nivel gratuito
Ilimitado y privado
Requisito
Nada — sin cuenta

Punto de conexión

URL basehttp://localhost:11434/v1
Límite de tasaNone — it is your machine

Ejemplos de código

npm install openai
import OpenAI from 'openai'

const client = new OpenAI({
  baseURL: 'http://localhost:11434/v1',
  apiKey: 'not-needed'
})

const response = await client.chat.completions.create({
  model: 'llama3.3',
  messages: [{ role: 'user', content: 'Explain closures in one paragraph.' }]
})

console.log(response.choices[0].message.content)

Vale la pena saber

Modelos que obtienes gratis5