Modelle & Souveränität

Modelle, Preise und Datenresidenz-Stufen entdecken.

Modelle werden in der Form provider/model identifiziert, z. B. mistral/mistral-medium-3.5. Listen Sie alle aktiven Modelle mit GET /v1/models auf. Die Liste ist für jeden Schlüssel gleich. Ihre Datenschutz-Einstellungen und Guardrails greifen beim Aufruf eines Modells, nicht hier:

json

{
  "object": "list",
  "data": [
    {
      "id": "mistral/mistral-medium-3.5",
      "object": "model",
      "owned_by": "mistral",
      "kind": "chat",
      "context_length": 262144,
      "sovereignty": "strict",
      "zdr": "partial",
      "no_training": true,
      "forbidden_segments": [],
      "pricing": {
        "input_micro_eur_per_mtok": 1250000,
        "output_micro_eur_per_mtok": 6400000
      },
      "supported_parameters": ["max_tokens", "temperature", "top_p", "stop", "stream", "tools", "tool_choice"]
    }
  ]
}

Felder

Feld	Bedeutung
`kind`	`chat`, `embedding`, `transcription` oder `speech`. Bestimmt, welcher Endpunkt das Modell annimmt.
`context_length`	Maximale Tokens pro Anfrage, sofern der Anbieter den Wert veröffentlicht.
`sovereignty`	`strict` oder `pragmatic`, siehe unten.
`zdr`	Zero Data Retention beim Anbieter: `default` (der Anbieter speichert nichts), `partial` (begrenzte Speicherung, etwa Missbrauchs-Logs) oder `none` (keine Zero-Retention-Zusage festgestellt oder geprüft; der Anbieter speichert Prompts womöglich).
`no_training`	`true`, wenn der Anbieter Training auf Ihren Daten vertraglich ausschließt.
`forbidden_segments`	Regulierte Nutzungssegmente, die der Anbieter vertraglich ausschließt (etwa `health`). Ist Ihre Organisation für eines davon registriert, werden Anfragen an dieses Modell mit `403 segment_not_permitted` abgelehnt.
`pricing`	Preise in Mikro-EUR: pro Million Input- und Output-Tokens bei Chat und Embeddings, `audio_micro_eur_per_hour` bei Transkription, `character_micro_eur_per_million` bei Sprachausgabe.
`supported_parameters`	Die Parameter, die dieses Modell berücksichtigt. Prüfen Sie auf `tools`, bevor Sie Tools senden, und auf `reasoning`, bevor Sie Reasoning anfordern.
`reasoning`	Nur bei Modellen vorhanden, die denken. Siehe Reasoning.

Souveränitätsstufen

Jedes Modell deklariert eine sovereignty-Stufe, damit Sie wählen können, wie streng Ihre Anforderungen an die Datenresidenz sind:

Stufe	Bedeutung
`strict`	Ein EU-eigener Anbieter, den Kontinent als souverän einstuft.
`pragmatic`	Aus der EU bedient, aber von einem Anbieter mit Muttergesellschaft außerhalb der EU oder einem, der auf fremder Cloud-Infrastruktur läuft.

Die Stufe wird bei jedem Modell zurückgegeben. So können Sie strict verlangen, wo der Anwendungsfall einen EU-eigenen Anbieter erfordert, und pragmatic anderswo zulassen. Siehe Maximaler Datenschutz.

Modellarten

Art	Endpunkt
`chat`	`POST /v1/chat/completions`, `POST /v1/responses`
`embedding`	`POST /v1/embeddings`
`transcription`	`POST /v1/audio/transcriptions`
`speech`	`POST /v1/audio/speech`

Ein Modell an einen Endpunkt einer anderen Art zu senden, wird abgelehnt; eine unbekannte oder deaktivierte ID liefert 404 model_not_found.

Preise und die Geldeinheit

Geld ist überall in Kontinent ganzzahliges Mikro-EUR, sodass es keine Fließkomma-Rundung in der Abrechnung gibt:

1 EUR = 1.000.000 µEUR

Preise werden pro Million Tokens angegeben, getrennt nach Eingabe- und Ausgaberate, und bei jedem Modell zurückgegeben. Im Beispiel oben kostet die Eingabe 1.250.000 µEUR/Mtok, das sind 1,25 € pro Million Eingabe-Tokens, und die Ausgabe 6,40 € pro Million Ausgabe-Tokens. Sie zahlen nur für die Tokens, die eine Anfrage tatsächlich verbraucht.

Zwei Regeln senken oder erhöhen diesen Preis und stehen nicht in /v1/models:

Gecachter Input. Liefert ein Anbieter einen Teil Ihres Prompts aus seinem Prompt-Cache und meldet das, werden diese Tokens zum niedrigeren Cache-Preis des Modells abgerechnet. Die Zahl steht als cached_tokens in den Logs.
Langer Kontext. Einige Modelle haben oberhalb einer Prompt-Länge einen höheren Preis. Erreicht ein Prompt diese Schwelle, wird die ganze Anfrage zu diesem Preis abgerechnet, so wie der Anbieter es misst.

Siehe Rate-Limits & Guthaben, wie Ausgaben gemessen werden.

Felder

Souveränitätsstufen

Modellarten

Preise und die Geldeinheit

Verwandte Seiten