Hacktoberfest 2026: le issue che i maintainer hanno segnato per ottobre, aperte e adatte ai principianti. Sfoglia le issue Hacktoberfest

Support cache-preserving reasoning changes with configuration_update input items

Aperta
  • Qualcosa non va?
#331 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 1 giorno

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
5/5
Tempo stimato
Più di una settimana
Idoneità per principianti
28/100
Tipo di issue
Funzionalità
Chiarezza
Abbastanza chiara
Stato di attività
Attiva
Stack tecnologico
rust
Ambito
api, backend

Direzione di ricerca

Inizia da crates/agentic-server-core/src/types/io/input.rs nell’implementazione esaminata, quindi traccia da lì la gestione degli input, l’archiviazione, la reidratazione e la serializzazione upstream. Usa i criteri di accettazione per definire quando il lavoro è «done»: gli aggiornamenti supportati devono preservare la cronologia e le impostazioni effettive nei casi HTTP, WebSocket, di continuazione e di compattazione, mentre le operazioni malformate o non supportate devono essere rifiutate e i test elencati di state, forwarding e cache-prefix devono essere superati.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

enhancement
Problem statement / motivation

The Responses API can change reasoning effort between responses by appending a configuration_update item while keeping request-level reasoning.effort unchanged. Agentic API has no typed variant for this item. It becomes Unknown, loses its payload, and is excluded from persisted input history.

Proposed solution

Add typed configuration-update items and preserve their position through input handling, storage, rehydration, and upstream serialization. Track the effective effort separately from the initial request-level setting. Gate execution on upstream capability; an unsupported backend must reject the operation before inference instead of silently changing semantics.

Acceptance criteria
  • HTTP and WebSocket requests accept supported updates, including manually replayed histories and previous_response_id continuation.
  • An update applies to subsequent responses until superseded; branching histories preserve their own effective settings.
  • The original request-level effort and preceding item history remain unchanged; public response metadata follows the documented contract.
  • Reject adjacent updates and unsupported mode combinations. The current reference supports standard single-agent mode, excludes automatic compaction/truncation, and rejects updates at the standalone compact endpoint.
  • Explicit compaction_trigger behavior is covered, including a fresh update after compaction.
  • Tests cover malformed updates, unsupported effort, multiple turns, stored/transient state, and unsupported-backend errors. Cache-prefix assertions verify serialized input stability, not an assumed cache hit.
Additional context

Related: #314 (request capabilities), #298 (multi-agent compatibility boundaries). This issue changes API state and forwarding; it does not move prompt rendering or cache execution into the gateway.

Source: change reasoning mid-conversation.

Reviewed at cdac36f: implementation. Documentation checked September 18, 2026; pin the implementation-time API/model version when recording conformance.

Lingua principale
Rust
Stelle
313
Fork
83
Merge medio
2g 8h
PR unite (30g)
75

Preparare l'ambiente

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di vllm-project/agentic-api

Tutte le issue di vllm-project/agentic-api

Issue simili

Altre issue su Rust

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.