Max Nardit
← Artikel
5 mindev

GPT-6.2 Astra und Sol in der API: Die Tool-Calling-Regel ist alt, die Kostenfallen sind neu

Die Pflicht zur Responses API wirkt wie die eigentliche Neuerung, ist aber älter als dieses Release. Zwei Änderungen treffen einen bestehenden Agent ohne dokumentierten Fehler: Top-Level-Instructions werden nicht mehr gecacht, und bearbeiteter Verlauf verliert sein Reasoning. Die neuen Background-Fenster bleiben teurer als Batch.

Inhalt

OpenAI hat GPT-6.2 Astra und GPT-6.2 Sol am 17. November veröffentlicht, und laut API-Changelog setzt Tool Calling bei beiden die Responses API voraus. Das liest sich wie der Breaking Change. Die Regel ist allerdings älter: Der Reasoning-Guide von OpenAI sagt dasselbe über GPT-6 Astra und GPT-6.1 Sol.

Wenn du für diese Modelle schon umgestiegen bist, liegen die Änderungen, die deinen Code treffen, woanders. Zwei davon kommen ohne dokumentierten Fehler, du bemerkst sie also womöglich zuerst auf der Rechnung.

Was hat OpenAI mit GPT-6.2 Astra und Sol ausgeliefert?

Zwei Modelle und eine günstigere Art zu warten. gpt-6.2-astra zielt auf anspruchsvolles Reasoning und Coding, gpt-6.2-sol auf alltägliches Coding und Agent-Arbeit. Am selben Tag bekam die Responses API Background-Fenster von zwei und acht Stunden als Public Beta.

Standard, bis 272K Input, pro 1 Mio. TokensInputCached InputCache-Write (30 Minuten)Output
GPT-6.2 Astra8 $0,40 $10 $40 $
GPT-6.2 Sol2 $0,10 $2,50 $10 $
GPT-6 Astra, zum Vergleich10 $1 $12,50 $50 $

Laut OpenAIs Preisliste ist Astra bei Input und Output 20 % günstiger und bei Cache-Reads 60 %, und genau diese Zahl spürt eine lange Agent-Session. Sol behält die Standard-Tarife von GPT-6.1 Sol. Über 272K Input-Tokens gilt dieselbe Grenze wie bei GPT-6 Luna: Input- und Cache-Tarife verdoppeln sich, Output kostet das 1,5-Fache, und zwar für den ganzen Request.

Funktioniert GPT-6.2 Tool Calling in Chat Completions?

Nein. Laut GPT-6.2-Guide unterstützen beide Modelle Chat Completions, Tool Calling setzt aber Responses voraus. Dazu passen zwei ältere Aussagen. Der Migrationsguide sagt, dass Chat Completions seit GPT-5.4 Tool Calling nur mit reasoning_effort auf none unterstützt, und der Reasoning-Guide sagt, dass GPT-6.2 none ablehnt. Wenn du also mit GPT-5.4 oder neuer Tools über Chat Completions nutzt, läufst du nach meiner Lesart heute auf none, und keine der beiden Hälften dieses Setups übersteht den Wechsel. Die Doku nennt den Fehler nicht, also teste es.

Umsteigen heißt, die Tool-Schleife neu zu schreiben. name, description und parameters wandern aus dem verschachtelten function-Objekt heraus, Funktionsaufrufe kommen als function_call-Items zurück, und Ergebnisse schickst du als function_call_output mit der passenden call_id zurück, zusammen mit etwaigen Reasoning-Items, wenn du den State selbst verwaltest. Lässt du strict weg, versucht Responses den Strict-Modus und fällt auf non-strict zurück, falls das Schema ihn nicht erfüllen kann. Aus response_format wird text.format, aus reasoning_effort wird reasoning.effort. Streiche temperature, top_p, logprobs und top_logprobs, und nimm message.output_text.logprobs aus include heraus. Wenn du auf none oder minimal warst, empfiehlt OpenAI low.

Wie wirken sich die Instructions- und Präfix-Änderungen von GPT-6.2 auf die Kosten aus?

Top-Level-instructions werden nicht mehr gecacht. Ab GPT-6.2 werden sie hinter input angehängt und bei jedem Request zum ungecachten Tarif abgerechnet, selbst bei einem Cache-Treffer. Wiederverwendbare Instructions gehören in eine developer-Message am Anfang von input.

Nimm 5.000 Tokens Instructions über 100 Turns auf Astra. Als Top-Level-instructions kosten sie 4,00 $. In einer Developer-Message, die die 99 folgenden Requests als gecachtes Präfix treffen, kosten sie einen Write (0,05 $) plus 99 Reads (rund 0,20 $).

Außerdem entfernt die Responses API jetzt Reasoning-Items, die auf eine Änderung am früheren Verlauf folgen, und OpenAIs Beispiele sind gewöhnliche Agent-Hausarbeit: ein Tool-Ergebnis kürzen, eine Developer-Message umschreiben, ältere Turns durch eine Zusammenfassung ersetzen. Auch eine Änderung am Parameter tools kann das auslösen. Es gibt zwei Auswege. Ganze Items zu löschen, ohne den Rest zu bearbeiten, löst die Entfernung für sich genommen nicht aus, und OpenAIs eigene Compaction behält späteres Reasoning. Sonst kann das Modell Arbeit wiederholen, die Antworten können schlechter werden, und dieselbe Änderung kann die Cache-Nutzung ab dieser Stelle senken.

Claude Fable 5.2 antwortet standardmäßig und außerhalb von Message Batches auf einen wiedergegebenen Thinking-Block nach so einer Änderung mit einem 400, und ich habe das die ehrliche Antwort genannt. OpenAI dokumentiert stattdessen eine Entfernung, gemeldet in input_transformations als prefix_mismatch. Meine Einschätzung: Die stille Variante ist teurer zu entdecken. Ich würde dieses Feld vom ersten Tag an loggen.

Wann schlagen die GPT-6.2 Background-Fenster die Batch API?

Wenn du das erste Ergebnis früher brauchst als nach den 24 Stunden von Batch oder wenn die Arbeit aus mehreren Schritten besteht. Für unabhängige Requests, die warten können, bleibt Batch günstiger: 50 % Rabatt gegenüber 30 % bei 2h und 40 % bei 8h. Ein Request mit 200K ungecachten Input-Tokens und 20K Output-Tokens, Reasoning eingerechnet, nach meiner Rechnung:

WegGPT-6.2 AstraGPT-6.2 Sol
Standard2,40 $0,60 $
Background 2h1,68 $0,42 $
Background 8h1,44 $0,36 $
Batch1,20 $0,30 $

Was die Fenster hinzufügen, ist eine Schleife. Eine Response kann ein Tool anfordern, dein Code führt es aus, sobald der Webhook eintrifft, und der Folge-Request bekommt denselben Rabatt. Ein einzelnes Review über Nacht sieht so aus:

json
{
  "model": "gpt-6.2-sol",
  "input": "<contract text> List any missing approvals.",
  "background": true,
  "service_tier": "default",
  "background_options": { "completion_window": "8h" }
}

Für eine Schleife ergänzt du continuation_id in background_options und verwendest sie wieder, mit demselben Modell, Fenster und Projekt, um in der Warteschlange Priorität zu bekommen. Den Verlauf trägt sie nicht mit, das machen previous_response_id oder erneut gesendete Items.

Das Kleingedruckte im Guide zählt. Das Fenster ist ein Zielwert für die erste Response, und wann Folge-Requests starten, hängt vom Scheduling ab, 8h verspricht also keinen Lauf von acht Stunden. Requests mit 2h und 8h können nicht streamen. Ihre wartenden Input-Tokens zählen gegen das Limit, das sie sich mit Batch-Jobs teilen. Cache-Einträge, die sie anlegen, können Standard-Requests nicht wiederverwenden. Und der Background-Modus speichert Daten vorübergehend, auch mit store: false oder Zero Data Retention.

Wie weit kann man den Launch-Zahlen von GPT-6.2 Astra trauen?

Vorerst als OpenAIs eigene Zahlen. Bei Agents’ Last Exam liegt Astra laut Launch-Post 5,5 Punkte vor Claude Fable 5.2, zu 5 % der Kosten, mit einer Fußnote, dass Fables Ergebnisse neun Aufgaben ausklammern, bei denen ein Fallback-Modell lief. Beide stehen mit 8 $ und 40 $ in der Preisliste, die Tarife erklären den 20-fachen Abstand also nicht, und der Post liefert keine Aufschlüsselung. Simon Willison berichtet, dass Astra in verschiedenen Benchmarks hinter Fable 5.2 liegt.

Wer Agents betreibt, sollte weniger auf die Rangliste schauen als auf die Hinweise zum Verhalten. Willison gibt Theo Browne wieder, der vor dem Release von einem langen /goal-Task berichtete, der an einer obskuren Implementierungsfrage hängen blieb, und OpenAIs Guide sagt, dass das Modell bei unklarer Absicht auf eine Bestätigung warten kann. OpenAI sagt außerdem, dass beide Modelle in zwei Tests eher dazu neigten, Hindernisse unerwähnt zu lassen, die ihre Arbeit blockierten, etwa eine fehlende Datei. OpenAIs Abhilfe steckt in Codex, und die System Card benennt die Grenze klar:

The Codex developer prompt used in these evaluations is not applied to
direct API requests.

Wenn du die API aus deinem eigenen Harness aufrufst, schreib eine Anweisung, die das Melden von Blockern verlangt, und teste sie.

Solltest du eine laufende Integration auf GPT-6.2 umstellen?

Von GPT-6 Astra aus ist der Preis für sich schon ein Grund. Von GPT-6.1 Sol aus haben sich die Standard-Tarife nicht bewegt, du würdest also wegen des Modells wechseln. So oder so: Ändere zuerst die Prompt-Struktur. Leg wiederverwendbare Instructions in die erste Developer-Message, lass den Verlauf nur wachsen und logge input_transformations. Danach änderst du model. Astras günstigere Cache-Reads zahlen sich nur bei einem Präfix aus, das erhalten bleibt.

01 / Diskussion

Hier gibt es keine Kommentarspalte. Diskussionen laufen auf X.

Max Nardit@mnardit

02 / Weitere Artikel