LM Studio
LM Studio 是给不想碰终端的人准备的桌面应用:浏览 GGUF 和 MLX、下载、对话,然后打开 Developer 标签页,在 localhost:1234/v1 上启动本地服务器。
LM Studio 是给不想碰终端的人准备的桌面应用:浏览 GGUF 和 MLX、下载、对话,然后打开 Developer 标签页,在 localhost:1234/v1 上启动本地服务器。
待遇和 Ollama 一样 —— 无限、私有、天花板是你的内存 —— 还带图形界面和内置对话。在你的编辑器调用之前,先把服务器启动。
- 最大上下文
- Whatever your RAM allows
- 免费额度
- 无限且私密
- 注册要求
- 什么都不用 —— 无账号
端点
接口地址
http://localhost:1234/v1速率限制
None — it is your machine- OpenAI 兼容
- 文本
- 视觉
代码示例
npm install openaiimport OpenAI from 'openai'
const client = new OpenAI({
baseURL: 'http://localhost:1234/v1',
apiKey: 'not-needed'
})
const response = await client.chat.completions.create({
model: 'qwen3-8b',
messages: [{ role: 'user', content: 'Explain closures in one paragraph.' }]
})
console.log(response.choices[0].message.content)pip install openaifrom openai import OpenAI
client = OpenAI(
base_url="http://localhost:1234/v1",
api_key="not-needed",
)
response = client.chat.completions.create(
model="qwen3-8b",
messages=[{"role": "user", "content": "Explain closures in one paragraph."}],
)
print(response.choices[0].message.content)curl http://localhost:1234/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "qwen3-8b",
"messages": [{"role": "user", "content": "Explain closures in one paragraph."}]
}'值得注意
- 调用之前,先在 Developer 标签页里启动本地服务器。
你能免费使用的模型3
- Qwen 3
qwen3 - GPT-OSS 120B
gpt-oss-120b - Mixtral 8x7B
open-mixtral-8x7b