OVHcloud AI Endpoints

OVHcloud AI Endpoints ist europäische Serverless-Inferenz, gehostet in Frankreich. Der öffentliche Katalog auf ovhcloud.com/en/public-cloud/ai-endpoints/catalog/ listet 19 Live-Modelle. Sieben davon stehen auf €0: NVIDIA Riva TTS (EN/DE/ES/IT), Qwen3Guard-Gen 0.6B und 8B sowie Stable Diffusion XL.

API-Schlüssel holen Offizielle Doku ↗

Llama 3.3 70B, GPT-OSS 20B/120B und Qwen 3.5/3.6 sind mit Key Pay-as-you-go — ohne Key rufen sie weiterhin bei 2 Anfragen pro Minute ab. Ein registriertes Public-Cloud-Projekt springt auf 400 pro Minute und beginnt zu kosten. OpenAI-kompatibel unter oai.endpoints.kepler.ai.cloud.ovh.net/v1. Prompts würden laut Angabe nicht zum Training genutzt.

Kostenlose Modelle: 7
Max. Kontext: 262K
Gratis-Tarif: 7 Modelle für €0
Anforderung: Nichts — kein Konto

Endpunkt

Basis-URLhttps://oai.endpoints.kepler.ai.cloud.ovh.net/v1

UmgebungsvariableOVH_AI_ENDPOINTS_ACCESS_TOKEN

Ratengrenze2 requests/minute anonymous; 400 requests/minute with a key

OpenAI-kompatibel
Text
Bild
Audio
Sprache
Code

Codebeispiele

npm install openai

import OpenAI from 'openai'

const client = new OpenAI({
  baseURL: 'https://oai.endpoints.kepler.ai.cloud.ovh.net/v1',
  apiKey: process.env.OVH_AI_ENDPOINTS_ACCESS_TOKEN
})

const response = await client.chat.completions.create({
  model: 'Meta-Llama-3_3-70B-Instruct',
  messages: [{ role: 'user', content: 'Explain closures in one paragraph.' }]
})

console.log(response.choices[0].message.content)

pip install openai

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://oai.endpoints.kepler.ai.cloud.ovh.net/v1",
    api_key=os.environ["OVH_AI_ENDPOINTS_ACCESS_TOKEN"],
)

response = client.chat.completions.create(
    model="Meta-Llama-3_3-70B-Instruct",
    messages=[{"role": "user", "content": "Explain closures in one paragraph."}],
)

print(response.choices[0].message.content)

curl https://oai.endpoints.kepler.ai.cloud.ovh.net/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OVH_AI_ENDPOINTS_ACCESS_TOKEN" \
  -d '{
    "model": "Meta-Llama-3_3-70B-Instruct",
    "messages": [{"role": "user", "content": "Explain closures in one paragraph."}]
  }'

Wissenswert

Sieben Modelle stehen im Katalog auf €0: vier NVIDIA-Riva-TTS-Stimmen, Qwen3Guard-Gen 0.6B und 8B sowie Stable Diffusion XL.
Chat-Modelle (Llama 3.3 70B, GPT-OSS, Qwen 3.5/3.6) sind mit Key Pay-as-you-go. Ohne Key sind sie weiterhin mit 2 Anfragen/Minute aufrufbar.
Fünf Katalog-ids sind als nicht verfügbar markiert: Mistral 7B, Mistral Nemo, Mistral Small 3.2, Qwen3-32B und Qwen3-Coder-30B.

Modelle, die Sie gratis bekommen7

Riva TTS Englishnvr-tts-en-us
Riva TTS Germannvr-tts-de-de
Riva TTS Spanishnvr-tts-es-es
Riva TTS Italiannvr-tts-it-it
Qwen 3Guard Gen 0.6Bqwen-guard-gen-06b
Qwen 3Guard Gen 8Bqwen-guard-gen-8b
Stable Diffusion XLstable-diffusion-xl