it's free*.ai

Jan

Jan es una aplicación de escritorio open source con forma de ChatGPT que funciona 100 % sin conexión. El servidor local está en localhost:1337/v1, compatible con OpenAI, así que los editores le hablan igual que a LM Studio.

Jan es una aplicación de escritorio open source con forma de ChatGPT que funciona 100 % sin conexión. El servidor local está en localhost:1337/v1, compatible con OpenAI, así que los editores le hablan igual que a LM Studio.

Descarga, elige un modelo, chatea. Sin cuenta. El punto es la interfaz, no un motor nuevo — por debajo sigue siendo pesos locales en tu máquina.

Contexto máximo
Whatever your RAM allows
Nivel gratuito
Ilimitado y privado
Requisito
Nada — sin cuenta

Punto de conexión

URL basehttp://localhost:1337/v1
Límite de tasaNone — it is your machine

Ejemplos de código

npm install openai
import OpenAI from 'openai'

const client = new OpenAI({
  baseURL: 'http://localhost:1337/v1',
  apiKey: 'not-needed'
})

const response = await client.chat.completions.create({
  model: 'llama3.3-70b',
  messages: [{ role: 'user', content: 'Explain closures in one paragraph.' }]
})

console.log(response.choices[0].message.content)

Modelos que obtienes gratis2