Reasoning

Reasoning-Modelle denken, bevor sie antworten. Jeder Anbieter schreibt das anders: OpenAI und aktuelle Claude-Modelle nehmen ein Stärke-Wort, ältere Claude-Modelle ein Token-Budget, Google eine verschachtelte Thinking-Konfiguration. Kontinent nimmt eine Form und übersetzt sie.

{
  "model": "bedrock/claude-sonnet-5",
  "messages": [{ "role": "user", "content": "Ist 9,11 größer als 9,9?" }],
  "reasoning": { "effort": "high" }
}

Der ältere Boolean include_reasoning: true wird weiterhin akzeptiert und bedeutet reasoning: { enabled: true }.

Welche Modelle denken

GET /v1/models sagt es zweifach: in der flachen Liste supported_parameters, die jedes Modell trägt, und bei denkenden Modellen in einem reasoning-Objekt mit den Details. Bei Modellen ohne Reasoning fehlt das Objekt ganz, und reasoning fehlt in der Liste.

{
  "id": "bedrock/claude-sonnet-5",
  "supported_parameters": ["max_tokens", "temperature", "top_p", "stop", "stream", "tools", "tool_choice", "reasoning", "include_reasoning"],
  "reasoning": {
    "supported_efforts": ["low", "medium", "high"],
    "default_effort": "medium",
    "supports_max_tokens": false,
    "mandatory": false
  }
}

mandatory: true heisst: der Upstream lässt sich das Denken nicht abschalten (Azures GPT-5- und GPT-6-Familie und o-Serie, Gemini 2.5 Pro). Bei diesen Modellen wird enabled: false ignoriert statt mit einem Fehler beantwortet.

Die Gedanken lesen

Jede Antwort trägt das Denken zweimal, mit Absicht:

• reasoning: ein einfacher String, den Sie aneinanderhängen und ausgeben können.
• reasoning_details[]: die strukturierte Form. Genau die schicken Sie zurück, um ein denkendes Gespräch fortzusetzen.

Ohne Streaming:

{
  "choices": [{
    "message": {
      "role": "assistant",
      "content": "Nein — 9,9 ist größer.",
      "reasoning": "Zehntel vergleichen: 0,11 gegen 0,9…",
      "reasoning_details": [{
        "type": "reasoning.text",
        "text": "Zehntel vergleichen: 0,11 gegen 0,9…",
        "signature": "EqoBCkgIA…",
        "format": "anthropic-claude-v1",
        "index": 0
      }]
    }
  }]
}

Mit Streaming kommt das Denken vor der Antwort, im selben delta, das ein Client schon liest:

data: {"choices":[{"delta":{"role":"assistant","reasoning":"Zehntel ","reasoning_details":[{"type":"reasoning.text","text":"Zehntel ","index":0}]}}]}

data: {"choices":[{"delta":{"reasoning":"vergleichen…","reasoning_details":[{"type":"reasoning.text","text":"vergleichen…","index":0}]}}]}

data: {"choices":[{"delta":{"reasoning_details":[{"type":"reasoning.text","signature":"EqoBCkgIA…","index":0}]}}]}

data: {"choices":[{"delta":{"content":"Nein — 9,9 ist größer."}}]}

data: {"choices":[],"usage":{"prompt_tokens":19,"completion_tokens":214,"total_tokens":233}}

data: [DONE]

Detail-Typen

Verschlüsseltes Denken

Manche Modelle, vor allem Azures GPT-5- und o-Serie, denken und geben nur einen opaken Block zurück. Kontinent weist ihn als reasoning.encrypted ohne text aus.

{ "type": "reasoning.encrypted", "data": "gAAAAAB…", "format": "openai-responses-v1", "index": 0 }

Das ist Absicht: Wir erfinden keine lesbaren Gedanken für ein Modell, das keine geliefert hat, und wir geben den Block an Sie weiter, statt ihn zu verstecken. Zurückschicken bewirkt bei Azure allerdings nichts: Das Gateway entfernt reasoning_details, bevor eine Anfrage an einen OpenAI-kompatiblen Anbieter geht. Nur die Thinking-Blöcke von Claude, auch geschwärzte, werden wieder eingespielt.

Ein denkendes Gespräch fortsetzen

Schicken Sie den Assistant-Zug mit seinen reasoning_details zurück:

{
  "model": "bedrock/claude-sonnet-5",
  "reasoning": { "effort": "high" },
  "messages": [
    { "role": "user", "content": "Ist 9,11 größer als 9,9?" },
    {
      "role": "assistant",
      "content": "Nein — 9,9 ist größer.",
      "reasoning_details": [{ "type": "reasoning.text", "text": "Zehntel vergleichen…", "signature": "EqoBCkgIA…", "format": "anthropic-claude-v1", "index": 0 }]
    },
    { "role": "user", "content": "Und 9,11 gegen 9,099?" }
  ]
}

Details gehen an Anbieter, die sie prüfen können, und werden bei allen anderen verworfen. Eine Anthropic-Signatur bedeutet einem OpenAI-Deployment nichts, und sie mitzuschicken wäre ein Fehler statt einer Fortsetzung. Unsigniertes Denken wird ebenfalls verworfen: Claude lehnt Gedanken ab, die es sich nicht selbst zuordnen kann, ein Wiedereinspielen würde also die Anfrage scheitern lassen.

Die Gedanken verbergen

exclude: true lässt das Modell denken und entfernt das Denken aus der Antwort.

{ "reasoning": { "effort": "high", "exclude": true } }

Sie zählen

Wo ein Anbieter den Denk-Anteil des Outputs ausweist, steht er in usage.completion_tokens_details.reasoning_tokens. Tut er es nicht, fehlt das Feld statt auf null zu stehen. Anthropic zählt das Denken innerhalb von output_tokens und trennt es nie ab, und eine Null würde behaupten, das Modell habe nicht gedacht.

Verwandt