Gateway 400: request exceeds JSON node limit (32768), long session cannot recover via compaction

Offen
  • Stimmt etwas nicht?
#1,078 1 Kommentar 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen

Maintainer antworten meist innerhalb von 1 Tag

Dieses Issue hat noch niemand übernommen.

Bewertung

Schwierigkeit
5/5
Geschätzter Aufwand
Über eine Woche
Anfängerfreundlichkeit
35/100
Issue-Typ
Bug
Klarheit
Größtenteils klar
Aktivitätsstatus
Aktiv
Tech-Stack
ai-infra-agents, cli
Bereich
ai-infra-agents, backend

Rechercherichtung

Start by tracing how the CLI builds and sends long-session requests, then inspect the gateway handling of the 32,768-node JSON limit. The issue names no files or tests, so first locate the request construction and error handling entry points. Done means a long session can recover from this structural limit, or the error reports the current node count and limit.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Beschreibung

Summary

Using Command Code (GOAT plan), a long session started failing on every request with a gateway 400:

Command Code API error 400: the request exceeds the gateway's JSON node limit (node count cannot exceed 32768)

The error text says the cap is on the request's structure, not its token length, so compacting the session usually will not bring it under the limit. The suggested remedies are starting a new session, or reducing the messages and images in the current one.

Why this looks distinct

  • This is a structural (JSON node count) limit, not a token / context-window limit.
  • Compaction does not reliably recover the session, because compacting does not necessarily reduce the node count below the cap.
  • I searched existing issues and did not find this exact error string. The closest related report is #1003 (compaction summaries compound instead of replacing, sessions 400 to death), but that issue's 400s are context/token-driven, whereas this one is node-count-driven.

Impact

Long sessions become unusable: a new session loses context, and trimming messages and images is not a sustainable fix.

Suggestions

  • Raise the gateway JSON node limit, or
  • Structurally compact or merge nodes for long-session requests, on the gateway or client side, before forwarding, or
  • At least include the current node count versus the limit in the error message, so users can tell how far over they are.

Notes

Vorherrschende Sprache
Keine Sprachdaten
Sterne
4.2k
Forks
377
Ø Merge
1 T. 17 Min.
Gemergte PRs (30 T.)
7

Entwicklungsumgebung

Dieses Projekt bietet weder Dev-Container noch Dockerfile noch Beitragsleitfaden – die Einrichtung liegt bei Ihnen. Beginnen Sie mit der README; die allgemeinen Schritte stehen in unserem Leitfaden für den ersten Beitrag.

Erste Schritte

  1. Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
  2. Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
  3. Forken Sie das Repository und arbeiten Sie in einem Branch.
  4. Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.

Mehr aus CommandCodeAI/command-code

Alle Issues in CommandCodeAI/command-code

Ähnliche Issues

Weitere Issues zu AI Infra & Agents

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.