Budgets & Ausgabengrenzen
Welche Ausgabengrenze wofür gedacht ist und wie sie zusammenspielen.
Kontinent kennt drei Arten, Ausgaben zu begrenzen, dazu das Guthaben darunter. Sie sind keine Alternativen zueinander. Sie greifen gleichzeitig, und jede beantwortet eine andere Frage.
| Grenze | Bündelt | Wird gesetzt von | Warnt vorher |
|---|---|---|---|
| Schlüssel-Limit | Einen API-Schlüssel | Dem Entwickler | Nein |
| Team-Budget | Alle Schlüssel eines Teams | Der Buchhaltung | Ja |
| Guardrail-Budget | Alle an ein Guardrail gebundenen Schlüssel | Dem Plattform-Verantwortlichen | Nein |
| Guthaben | Die gesamte Organisation | Wer auflädt | Ja |
Wozu welche
Jeder Schlüssel bekommt ein Limit. Das ist die Begrenzung des Schadens. Ein Schlüssel ist meist ein Dienst oder ein Skript, und ein Limit beantwortet hier die Frage: Was kann eine Endlosschleife oder ein abhandengekommener Schlüssel im schlimmsten Fall kosten? Das ist der billigste Schutz, den es gibt, und derjenige, der am ehesten wirklich Geld spart.
Das Team-Budget ist für die Zurechnung. Wenn die Frage organisatorisch ist, etwa Engineering hat 2.000 € im Monat, bündelt ein Team-Budget den Verbrauch aller Schlüssel dieses Teams. Anders als ein Schlüssel-Limit hält es auch dann noch, wenn jemand einen weiteren Schlüssel anlegt. Es ist ausserdem die einzige der drei Ausgabengrenzen, die vor dem Sperren warnen kann. Das Guthaben warnt ebenfalls, ist aber keine Steuerung, sondern der Boden darunter.
Das Guardrail-Budget, wenn die Gruppe nicht das Organigramm ist. Ein Guardrail fasst Schlüssel nach Zweck oder Richtlinie zusammen, nicht nach Team, etwa alles, was direkt an Kunden geht, unabhängig davon, wer es betreibt. Ist die Gruppe doch das Organigramm, ist das Team-Budget die bessere Wahl: klarer, und es kann warnen.
Sie greifen gleichzeitig, die strengste gewinnt
Jede zutreffende Grenze wird für sich geprüft. Eine Anfrage wird abgelehnt, sobald die erste von ihnen erschöpft ist. Es gibt keine Rangfolge zu lernen: Ein Schlüssel kann gleichzeitig unter seinem eigenen Limit, einem Guardrail-Budget und einem Team-Budget stehen. Es stoppt ihn, was zuerst aufgebraucht ist.
Ein Schlüssel ohne Team fällt unter kein Team-Budget. Ein aufgelöstes Team nimmt seine Schlüssel niemals mit: Sie laufen weiter, sie werden nur nicht mehr zugerechnet. Solche Schlüssel brauchen ein eigenes Limit.
Was Sie sehen, wenn eine Grenze greift
Ausgabengrenze und Ratenbegrenzung antworten beide mit 429, entscheidend ist das Feld code.
| Code | Was aufgebraucht ist | Was zu tun ist |
|---|---|---|
spend_limit_exceeded | Ein Schlüssel-, Guardrail- oder Team-Budget | Die Meldung lesen. Sie nennt, welche Grenze es war. |
rate_limit_exceeded | Die Anfragen pro Minute des Schlüssels | Warten und erneut versuchen. |
insufficient_credits | Das Guthaben der Organisation | Aufladen. Vorher scheitert jeder weitere Versuch. |
Die Meldung zu spend_limit_exceeded sagt, welche der drei Grenzen gegriffen hat. Sie sitzen in der Konsole an verschiedenen Stellen.
Zwei Dinge, die überraschen
Ein Limit ohne Zeitraum gilt lebenslang, nicht monatlich. Beim Anlegen eines Schlüssels steht die Auswahl für den Zeitraum auf nie. Ein Limit von 100 € mit dieser Vorgabe sind 100 € für die gesamte Lebensdauer des Schlüssels. Es füllt sich im nächsten Monat nicht wieder auf. Wer eine Erneuerung will, wählt täglich, wöchentlich oder monatlich.
Ein Guardrail-Budget ersetzt die Vorgabe der Organisation, es kommt nicht hinzu. Hängt an einem Schlüssel ein Guardrail mit eigenem Budget, gilt dieses statt des voreingestellten. Ein grosszügiges Guardrail-Budget lockert den Schlüssel also, statt ihn zu verschärfen. Das ist Absicht: Nur so lässt sich einem einzelnen Schlüssel mehr Spielraum geben, ohne ihn allen zu geben.
Budgets und Guthaben verhalten sich bewusst unterschiedlich
Budgets lassen im Zweifel durch. Sind unsere Zähler kurzzeitig nicht erreichbar, werden Anfragen bedient statt abgelehnt. Eine Grenze, die Sie sich selbst gesetzt haben, soll aus unserer Störung nicht Ihren Ausfall machen.
Das Guthaben sperrt im Zweifel. Ist es aufgebraucht, kommt ein hartes 402, bis eine Aufladung eingeht.
Deshalb taugt das Guthaben schlecht zur Steuerung: Bei null steht alles still, für alle gleichzeitig. Behandeln Sie es als Störfall, den die automatische Aufladung verhindert, und steuern Sie mit den drei Grenzen darüber.