Preis & Performance

Kontinent verkauft kein eigenes Preis-gegen-Tempo-Paket. Wir bauen die Modelle nicht. Die Differenzierung ist ein Smart Router, den Sie konfigurieren: Sie wählen, welche Modelle er nutzen darf, und er klassifiziert jede eingehende Anfrage und schickt sie an das passende. Ihr Code adressiert in jedem Fall einen Endpunkt.

Wie der Smart Router funktioniert

Sie legen Modelle in einen Pool. Bei jeder Anfrage kategorisiert Kontinent den Prompt und die Aufgabe dahinter und leitet ihn an das Modell in diesem Pool, das dazu passt. Eine kurze Klassifizierung, eine Umformulierung und eine schwere Reasoning-Aufgabe brauchen nicht dasselbe Modell.

Einfache Arbeit landet auf einem kleineren oder Open-Weight-Modell, wenn Sie eines aufgenommen haben. Schwere Arbeit landet auf einem Frontier-Modell, das sie tatsächlich bewältigen kann. Diese Aufteilung definieren Sie, sie ist kein Haus-Default. Sie adressieren einen Endpunkt; der Router wählt unter Ihren Modellen darunter.

Wonach er schaut

Der Klassifizierer arbeitet aus der Anfrage selbst, nicht aus einer statischen Zuordnung in Ihrem Code. Er betrachtet den Prompt, die Aufgabenart und wie anspruchsvoll sie ist. Andere smarte Methoden können daneben sitzen: das gerade schnellste Modell im Pool bevorzugen, oder eines mit erhöhter Fehlerrate überspringen. Sie schalten das pro Router ein.

Den Pool konfigurieren

Der Router leitet nur an Modelle, die Sie gewählt haben. Mischen Sie Open-Weight- und Frontier-Modelle, wenn günstigere Modelle im Mix sein sollen; halten Sie den Pool bei Frontier-Modellen, wenn nicht. Souveränitätsstufen gelten weiter für jeden Kandidaten. Siehe Modelle & Souveränität und Routing-Policies.

Wenn der Pool günstigere Open-Weight-Modelle mit stärkeren mischt, steuert ein Kosten-Qualitäts-Schwellenwert von 1 bis 10, wie oft der Klassifizierer die kleineren Modelle gewinnen lassen darf.

• Eine niedrige Einstellung setzt auf Open-Weight- und kleinere Modelle, wo diese ausreichen.
• Eine hohe Einstellung leitet mehr Traffic an Ihre stärksten Modelle.

Der Regler ist optional. Er ist nützlich, wenn Sie auf der Open-Weight-Seite einen Kosten-/Qualitäts-Zielkonflikt wollen. Er ist nicht das Produkt. Das Produkt ist der Router. Siehe Den Smart Router konfigurieren.

Andere smarte Methoden

Klassifizierung ist der Standard. Sie können auch eigene Router bauen, die nach den für Sie wichtigen Faktoren entscheiden:

Sie definieren die Methode, und das Gateway wendet sie bei jeder Anfrage an. Kombinieren Sie sie mit der Klassifizierung oder nutzen Sie sie eigenständig.

Ihr Code bleibt gleich

Adressieren Sie den Router als Modell-ID und ändern Sie den Pool in der Konsole; der Request-Body ändert sich nie. Wenn ein Anbieter unter dem gewählten Modell langsam oder nicht verfügbar ist, schaltet Kontinent auf eine andere Route für dieses Modell um. Siehe Routing-Policies und Maximale Verfügbarkeit.