GPT-6 Astra und Weight-Space-Programming: Was das Qwen-Ergebnis auf MATH-500 tatsächlich gemessen hat

Ein Text namens „Sparks of Weight-Space Programming“ von Rikiya Takehi, Jayden Teoh, Alex Zhang und Omar Khattab behauptet, OpenAIs GPT-6 Astra könne Gewichte neuronaler Netze nativ lesen und schreiben. Die Zahl, die sich verbreitet hat: Astra hat 0,016 % der Gewichte von Qwen3.5-0.8B verändert, und der MATH-500-Wert stieg von 7,9 % auf 48,1 %. Am 3. November nannte Matthew Honnibal die Darstellung irreführend, und Simon Willison hat einen der Tests auf seinem Laptop wiederholt.

Ich arbeite mit diesen beiden Berichten, die das Abstract zitieren und jedes Experiment tabellarisch aufschlüsseln. Den Originalbeitrag habe ich nicht gelesen, nachgerechnet habe ich nichts. Berichtet heißt: Die Quelle sagt es, und ich gebe es weiter. Mich interessiert, wie weit die Überschrift von der Methode entfernt ist und wie wenig Aufwand es kostet, diesen Abstand zu sehen, wenn man die Tabelle liest statt des Abstracts.

Was behauptet der Beitrag zu GPT-6 Astra und Weight-Space-Programming?

Vier Dinge, so wie Willison das Abstract zusammenfasst. Astra erkennt an den rohen Gewichten, worauf ein Netz trainiert wurde. Es schreibt kleine Spielnetze von Grund auf, die Netze schlagen, die mit PPO über 100 Millionen Schritte trainiert wurden, und das ohne Rückmeldung aus der Umgebung. Es hat die Ursache der Denkschleifen gefunden, vor denen die Model Card von Qwen3.5-0.8B warnt. Und seine Änderung an 0,016 % der Gewichte, ohne Gradienten, hob MATH-500 von 7,9 % auf 48,1 % und hat IFEval ungefähr verdreifacht.

Die Autoren nennen die Fähigkeit „weight-space programming“. Honnibal stört sich an dieser Rahmung, an der ersten Zeile des Abstracts:

Just by looking at the raw weights, GPT-6 Astra can tell what a network
was trained to do.

Für die Experimente, die der Satz beschreibt, stimmt er. Honnibals Einwand ist, dass dieselbe Rahmung auf das Qwen-Ergebnis übertragen wird, das auf anderem Weg entstand.

Welche Experimente mit GPT-6 Astra lesen rohe Gewichte ohne Tools?

Drei der zehn Einträge in Honnibals Tabelle, und es sind die kleinen. Er ordnet jedes Experiment danach ein, was das Modell nutzen durfte. In den Experimenten 1, 2 und 4 lagen rohe Gewichte im Kontext, ohne Python, an Netzen mit 17K, 24K und 172K Gewichten. Jedes Experiment an einem Sprachmodell nutzte Python, und für das Qwen-Ergebnis wurde zusätzlich das Modell selbst ausgeführt.

Die Weight-Space-Experimente mit GPT-6 Astra im Einzelnen: was jedes gemessen hat

Das Spiel benennen (berichtet). Vier Policy-Netze wurden auf 10x10-Rasterversionen von Breakout, Pong, Pac-Man und Freeway trainiert. Die Gewichte jedes Netzes kamen als Text in einen Prompt, dazu die Frage, auf welches Spiel es trainiert wurde, ohne Tools. Astra lag bei allen vier richtig. Beim 24K-Diffusions-MLP lief es genauso, drei von drei Formen. Das sind die saubersten Ergebnisse ohne Tools im ganzen Set, und es sind insgesamt sieben Netze.

Das Auto reparieren (berichtet). Eine Kinetix-Policy mit 172K Gewichten steckte fest. Astra bekam ihre Gewichte und eine aufgezeichnete Fehl-Episode, änderte in einem Versuch 3,5 % der Gewichte, und die Erfolgsquote ging von 0 % auf 100 %. Eine Änderung, einmal ausgewertet, keine Iteration. Nach meiner Lesart ist das der stärkste Einzeleintrag der Tabelle.

Spielnetze von Grund auf schreiben (berichtet). Der Vergleich im Abstract ist PPO mit 100 Millionen Trainingsschritten, und laut Tabelle schlagen Astras Netze diese Baseline. Gegen PPO mit 500 Millionen Schritten nennen Honnibals Notizen drei Spiele: Breakout 517 zu 25, Seaquest 53 zu 89, Asterix 53 zu 55. Die Behauptung stimmt also so, wie sie formuliert ist, und sie hält bei zwei von drei Spielen nicht mehr, sobald die Baseline fünfmal länger trainiert.

Sykophantie erkennen (berichtet). Mit Python und den Gewichten von Gemma 3 270M scheiterte Astra. Mit Attention-Mustern auf bis zu 16 Texten, bei zurückgehaltenen Ausgaben, kam es auf 3/3. Die zweite Variante liest Aktivierungen, und das ist ein anderes Instrument als das Lesen von Gewichten.

Qwen reparieren (berichtet). Laut Honnibal schrieb Astra Python-Code, führte ihn aus und konnte das Modell auf bis zu 50 Batches von Übungsaufgaben laufen lassen. Die Model Card hatte das Fehlerbild schon dokumentiert: Denkschleifen, die nicht enden. Die 48,1 % sind also das, was ein Agent mit Code, einem dokumentierten Symptom und einer Auswertungsschleife erreicht hat, und der vergleichbare Lauf auf Gemma 3 270M scheiterte. Goedeckes Kritik, wie Willison sie weitergibt: Das sind die Schritte, die ein menschlicher ML-Forscher auch gehen würde.

Kann ein kleineres Modell den Test ohne Tools von GPT-6 Astra wiederholen?

Bei der Spielaufgabe größtenteils ja. Willison nahm die vier Prompts aus dem öffentlichen Log-Repository der Autoren, prüfte, dass sie sich nur in den Gewichten unterscheiden, und schickte sie durch sein Tool llm.

Kimi K3.1 Pro (berichtet). Über OpenRouter, mit dem Breakout-Prompt, antwortete es nach 9 Minuten 41 Sekunden und 19.493 Reasoning-Tokens mit Breakout.

Qwen 3.8 27B auf einem Laptop (berichtet). Der 17-GB-Build Q4_K_M in LM Studio, mit langem Kontextfenster, weil der Standard von 8.192 nicht reichte. Es lag bei drei von vier richtig, und die drei erfolgreichen Läufe dauerten jeweils 46 bis 65 Minuten:

Willison findet die Reasoning-Traces „fast unverständlich“ und ergänzt, ein erfahrener Mensch mit Notizblock und Bleistift käme mit genug Aufwand wahrscheinlich auch dahin. Wenn ein 27B-Modell auf einem Laptop das in etwa einer Stunde nachmacht, ist die Aufgabe kleiner, als „liest neuronale Netze“ klingt.

Was solltest du prüfen, bevor du der Qwen-Zahl von GPT-6 Astra traust?

Vier Fragen. Honnibals Tabelle beantwortet die erste und verweist auf die anderen drei, und die Zusammenfassungen, die mir vorliegen, klären sie nicht.

Was durfte das Modell benutzen? Rohe Gleitkommazahlen in einem Prompt sind ein Instrument. Code, Aktivierungen und ein Netz, das du ausführen kannst, sind andere. Ein Ergebnis, das Code und eine Testschleife brauchte, ist ein Engineering-Ergebnis. Miss es daran, was ein Engineer mit denselben Tools täte.

Gab es eine Feedback-Schleife? Bis zu fünfzig Batches mit Übungsaufgaben sind ein Evaluator. Wenn Feedback aus der Auswertung verfügbar ist, kann der Score allein eine gezielte Diagnose nicht von iterativer Suche unterscheiden, und ob sich das Übungsset mit MATH-500 überschnitt, steht in den Berichten, die ich gelesen habe, nicht.

Wie kaputt war die Baseline? 7,9 % auf MATH-500 bei einem Modell, dessen Model Card vor endlosen Denkschleifen warnt, sieht nach einem Modell aus, das auf dokumentierte Weise versagt. Nach meiner Lesart kann die Behebung eines solchen Fehlers viele Punkte bringen, ohne dass das Modell irgendetwas Neues über Mathematik lernt. Die Zusammenfassungen trennen nicht, wie viel der 40 Punkte aus weniger Schleifen kam und wie viel aus etwas anderem.

Hält es über den einen Fall hinaus? Der vergleichbare Gemma-Lauf scheiterte, und die Spielnetze verlieren bei zwei von drei Spielen gegen die länger trainierte Baseline. Also gemischte Evidenz, und niemand hat die Grenze vermessen. Eine Behauptung hat einen Geltungsbereich, so wie ein Benchmark nur dort gilt, wo du ihn geprüft hast, und das Scheitern bei Gemma ist der Rand dieses Bereichs, gratis gefunden.

Was ändert das Ergebnis von GPT-6 Astra?

Weniger, als das Abstract sagt, aber nicht nichts. Honnibals eigenes Fazit: Modelle von vor ein, zwei Jahren „wären an all diesen Aufgaben gescheitert“. Ein Agent, der den Analysecode schreibt, ein kaputtes Modell laufen lässt, eine Reparatur findet und 0,016 % der Gewichte patcht, erledigt Arbeit, für die es früher einen ML-Engineer brauchte. Willison will nicht so weit gehen zu sagen, das Zeitalter des Quellcodes sei vorbei, und ich auch nicht.

Spannender als die Fähigkeit finde ich, was die Qwen-Reparatur als Artefakt ist. Letzte Woche habe ich argumentiert, dass das Konsolidieren von Gedächtnis in Gewichte die Adresse wegnimmt: Ein Fakt, der über die Parameter verteilt ist, lässt sich nicht mehr auflisten und damit auch nicht einzeln entfernen. Die Qwen-Änderung kam vom anderen Ende, von einem dokumentierten Fehler, und ergab einen dünnen Patch. Bei 800M Parametern sind 0,016 % immer noch etwa 128.000 Gewichte, also eine numerische Adresse, noch keine semantische. Du kannst den Patch versionieren, ihn gegen den ursprünglichen Checkpoint zurücknehmen und ablatieren. Ob er nur die Schleifen berührt und ob er sich nach späterem Training noch sauber zurücknehmen lässt, hat niemand gemessen. Wenn Weight-Space-Editing reifer wird, ist das die Zahl, die ich neben jedem Zugewinn in einer Überschrift sehen will, mit den benutzten Tools daneben.