Guardrails

Regeln, die mit einem Schlüssel reisen: welche Anbieter er erreicht, was er ausgeben und was er senden darf.

Ein Guardrail ist ein benanntes Regelwerk, das Sie einem oder mehreren API-Schlüsseln zuordnen. Jede Anfrage mit diesen Schlüsseln wird dagegen geprüft, bevor sie einen Anbieter erreicht. Owner und Admins legen Guardrails in der Konsole unter Regeln an und bearbeiten sie dort.

Wie Guardrails greifen

Ein Schlüssel gehört höchstens zu einem eigenen Guardrail. Ordnen Sie ihn einem anderen zu, wird er dorthin verschoben; die Konsole zeigt vor dem Speichern an jedem Schlüssel, in welchem Guardrail er gerade ist.
Ihre Organisation hat außerdem einen Standard-Guardrail. Seine Regeln zum Modellzugriff sind die Schalter auf der Seite Datenschutz (siehe Maximaler Datenschutz), und sie wirken als Untergrenze: Der eigene Guardrail eines Schlüssels kann sie verschärfen, aber nie aufheben.
Ein Schlüssel ohne eigenen Guardrail folgt dem Standard-Guardrail.
Guardrails gelten für jeden Endpunkt und auch, nachdem eine Routing-Policy in ihre Modelle aufgelöst wurde.

Modellzugriff

Der Modellzugriff legt fest, welche Anbieter und Modelle ein Schlüssel erreichen darf.

Regel	Wirkung
Nur Zero Data Retention	Nur Anbieter mit vertraglicher Zero-Retention-Zusage.
Training blockieren	Nur Anbieter, die Training auf Ihren Daten vertraglich ausschließen.
Nur souverän	Nur Anbieter mit der Stufe `strict` (EU-eigen und von Kontinent als souverän eingestuft).
Nur § 203 StGB	Nur Anbieter, die eine Verschwiegenheitsverpflichtung nach § 203 StGB unterzeichnet haben.
Alle erlauben außer	Eine Block-Liste: Die gelisteten Anbieter und Modelle sind ausgeschlossen, alles andere ist erlaubt.
Alle blockieren außer	Eine Allow-Liste: Nur die gelisteten Anbieter und Modelle sind erlaubt.

Hat ein Modell mehrere Routen, werden die Routen übersprungen, die gegen eine Regel verstoßen, und eine regelkonforme Route bedient die Anfrage. Erst wenn keine Route übrig bleibt, schlägt die Anfrage mit 403 model_access_blocked fehl, und die Meldung nennt die Regel. Ein 200 heißt also nicht, dass eine Regel ignoriert wurde: Prüfen Sie das bedienende Modell und den Anbieter in den Logs.

Beim Bearbeiten eines Guardrails zeigt die Konsole, wie viele Anbieter und Modelle mit Ihren Regeln noch erreichbar sind. So sehen Sie eine zu strenge Kombination, bevor Sie speichern.

Budget

Ein Guardrail kann ein Ausgabelimit pro Tag, Woche oder Monat tragen. Alle Schlüssel des Guardrails zehren von einem gemeinsamen Topf, das unterscheidet ihn vom Limit pro Schlüssel. Ist der Topf leer, liefern die Schlüssel 429 spend_limit_exceeded, bis das Zeitfenster neu beginnt. Siehe Budgets & Ausgabengrenzen.

Prompt-Injection-Scan

Der Scan prüft jede Nachricht einer Anfrage, auch Tool-Ergebnisse und eingefügte Dokumente, auf bekannte Injection-Muster:

Versuche, vorherige Anweisungen außer Kraft zu setzen,
Aufforderungen, den System-Prompt preiszugeben,
gefälschte Chat-Template-Trenner wie <|im_start|> oder [INST],
Jailbreak-Personas („you are now DAN“, „developer mode“),
Behauptungen, die Regeln des Betreibers gälten nicht mehr.

Einstellung	Wirkung
Deaktiviert	Kein Scan.
Markieren	Die Anfrage geht unverändert durch und ist in den Logs als Markiert gekennzeichnet, samt der Regel, die gegriffen hat. So finden Sie heraus, ob Ihr legitimer Verkehr eine Regel auslöst, bevor Sie blockieren.
Blockieren	Die Anfrage wird mit `403 prompt_injection_blocked` abgelehnt, und die Meldung nennt die Regel, die gegriffen hat.

Die Muster sind bewusst eng gefasst, damit normale Texte kaum treffen. Sie erwischen den naiven Versuch, keinen entschlossenen Angreifer: Verstehen Sie den Scan als eine Schutzschicht, nicht als Mauer.

Sensible Informationen

Die Richtlinie für sensible Informationen sucht in einer Anfrage nach personenbezogenen und vertraulichen Daten, bevor sie Kontinent verlässt. Sie wählen die Muster:

Gruppe	Muster
Kontakt	E-Mail-Adresse, Telefonnummer, Postanschrift, IP-Adresse, URL
Finanzen	IBAN, BIC, Kreditkartennummer, USt-IdNr.
Identität	Steuer-ID, Sozialversicherungsnummer, Krankenversicherungsnummer, Ausweisnummer, Kfz-Kennzeichen, Datum
Namen	Person, Ort, Organisation

Einstellung	Wirkung
Deaktiviert	Keine Prüfung.
Markieren	Die Anfrage geht unverändert durch, der Treffer wird festgehalten.
Schwärzen	Treffer werden vor der Weiterleitung durch einen Platzhalter ersetzt, sodass der Anbieter den Originalwert nie sieht.
Blockieren	Die Anfrage wird mit `403` abgelehnt, und die Meldung nennt das Muster, das gegriffen hat.

Abgelehnte Anfragen in den Logs