Es gibt keine Konfigurationsdatei zu pflegen. Kontinent wird über den Schlüssel konfiguriert, den Sie senden, und die Modell-ID, die Sie adressieren. Was folgt, sind die Werte, die das Gateway bei jeder Anfrage durchsetzt.
| Limit | Wert | Hinweise |
|---|
| Body-Größe | 2 MiB | Größere Bodies liefern 400 invalid_request. |
| Pflichtfelder | model | Ein fehlendes model liefert 400 invalid_request. messages prüft der Anbieter. |
| Format der Modell-ID | provider/model | z. B. mistral/mistral-medium-3.5. Unbekannte IDs: 404. |
| Authentifizierung | Authorization: Bearer sk-kt-... | Überall erforderlich außer bei /healthz. |
| Limit | Wert | Hinweise |
|---|
| Rate-Limit | Pro Schlüssel, Requests pro Minute | Gleitendes Fenster aus zwei 1-Minuten-Buckets. |
| Verhalten des Limiters | Fail-open | Infrastrukturprobleme blockieren Ihre Anfragen nie. |
| Guthabenprüfung | Optimistisch | Eine kleine, durch Ihr RPM begrenzte Überziehung ist möglich. |
| Guthabenabgleich | Etwa 60 s | Hintergrund-Worker; eine Aufladung hebt die Sperre sofort auf. |
| Erschöpftes Guthaben | 402 insufficient_credits | Hartes Fehlschlagen, bis eine Aufladung eingeht. |
Siehe Rate-Limits & Guthaben für das vollständige Verhalten.
| Timeout | Wert | Hinweise |
|---|
| Übergreifende Stream-Frist | Keine | Streams laufen, solange der Anbieter sendet. |
| Upstream-Response-Header | 300 s | Wartezeit, bis der Anbieter Header sendet. Ohne Stream ist das die gesamte Generierung. |
| Inaktiver Upstream (Stream) | 90 s | Abbruch nach 90 s Stille; Anbieter-Chunks wirken als Keep-Alives. |
| Idle-Timeout am Load Balancer | 300 s | Der Load Balancer sitzt vor dem Gateway. |
| Wirksamkeit eines Widerrufs | Etwa 30 s | Widerruf und Deaktivieren. Ein Ablauf dauert bis zu etwa 5 Minuten. |
| Einzelnes Stream-Event | 4 MiB | Ein größeres SSE-Event des Anbieters beendet den Stream mit einem Fehler. |
| Eigenschaft | Wert |
|---|
| Plattform-Verfügbarkeit | Mindestens 99 % im Kalendermonatsmittel (Nutzungsbedingungen, Ziffer 7); nicht pro Modell |
| Failover-Auslöser | Upstream 429, 5xx, 401/403, Verbindungsfehler |
| Failover-Fenster | Vor dem ersten gestreamten Byte |
| Routenkette | Primäre Route, bei vielen Modellen eine Standby-Route bei einem anderen Anbieter; beliebige Kette per Routing-Policy |
Siehe Maximale Verfügbarkeit.
| Konvention | Wert |
|---|
| Geldeinheit | Ganzzahliges Mikro-EUR: 1 EUR = 1.000.000 µEUR |
| Preiseinheit | Pro Million Tokens, getrennt nach Eingabe- und Ausgaberate |
| Abrechnungsmodell | Prepaid; jede Anfrage bucht exakt die Kosten ihrer Tokens ab |
| Rundung | Kein Gleitkomma; die Kosten jeder Anfrage werden auf ganze µEUR abgerundet |
| Stufe | Bedeutung |
|---|
strict | Ein EU-eigener Anbieter, den Kontinent als souverän einstuft. |
pragmatic | Aus der EU bedient, aber von einem Anbieter mit Muttergesellschaft außerhalb der EU oder einem, der auf fremder Cloud-Infrastruktur läuft. |
| Art | Endpunkt |
|---|
chat | POST /v1/chat/completions |
embedding | POST /v1/embeddings |
transcription | POST /v1/audio/transcriptions |
speech | POST /v1/audio/speech |
Audio-Grenzen: Uploads bis 25 MiB je Datei (26 MiB je Anfrage), Sprachausgabe-Eingabe bis 4096 Zeichen (1000 bei ovh/nvr-tts-de-de). Ein Transkriptions-Upload muss innerhalb von 5 Minuten abgeschlossen sein. Je Gateway-Instanz laufen höchstens 4 Transkriptionen gleichzeitig, eine fünfte wartet bis zu 10 Sekunden auf einen freien Platz; darüber erhalten Sie 503 transcriptions_busy mit Retry-After: 10.
| Einstellung | Bereich | Hinweise |
|---|
| Smart Router | keine | Klassifiziert jede Anfrage und wählt unter den Modellen, die Sie konfiguriert haben. |
| Modell-Pool | Sie wählen | Frontier, Open Weight oder gemischt. Souveränität gilt weiter. |
| Kosten-Qualitäts-Schwellenwert | 1 bis 10 | Optional. Wenn der Pool günstigere Open-Weight-Modelle mit stärkeren mischt. |
| Eigene Router | keine | Andere Methoden: Latenz, Durchsatz, Fehlerrate. Mit Klassifizierung oder eigenständig. |
Siehe Preis & Performance.
| Daten | Gespeichert |
|---|
| Prompt- und Completion-Inhalte | Nie |
| Token-Anzahl (Prompt/Completion/gesamt) | Ja |
| Latenz und HTTP-Status | Ja |
| Modell-ID und berechnete Kosten | Ja |
Siehe Datenschutz & Speicherung.