Hacktoberfest 2026: những issue maintainer đã đánh dấu cho tháng Mười, đang mở và phù hợp người mới. Xem issue Hacktoberfest

Support cache-preserving reasoning changes with configuration_update input items

Đang mở
  • Có gì không ổn?
#331 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
5/5
Thời gian dự kiến
Hơn một tuần
Mức phù hợp với người mới
28/100
Loại issue
Tính năng
Độ rõ ràng
Khá rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
rust
Lĩnh vực
api, backend

Hướng nghiên cứu

Bắt đầu với crates/agentic-server-core/src/types/io/input.rs trong implementation đã được review, sau đó lần theo từ đó việc xử lý input, lưu trữ, rehydration và upstream serialization. Sử dụng các tiêu chí chấp nhận để xác định khi nào là “done”: các update được hỗ trợ phải giữ nguyên lịch sử và các thiết lập có hiệu lực trong các trường hợp HTTP, WebSocket, continuation và compaction, trong khi các operation malformed hoặc không được hỗ trợ phải bị từ chối và các test state, forwarding và cache-prefix được liệt kê phải pass.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

enhancement
Problem statement / motivation

The Responses API can change reasoning effort between responses by appending a configuration_update item while keeping request-level reasoning.effort unchanged. Agentic API has no typed variant for this item. It becomes Unknown, loses its payload, and is excluded from persisted input history.

Proposed solution

Add typed configuration-update items and preserve their position through input handling, storage, rehydration, and upstream serialization. Track the effective effort separately from the initial request-level setting. Gate execution on upstream capability; an unsupported backend must reject the operation before inference instead of silently changing semantics.

Acceptance criteria
  • HTTP and WebSocket requests accept supported updates, including manually replayed histories and previous_response_id continuation.
  • An update applies to subsequent responses until superseded; branching histories preserve their own effective settings.
  • The original request-level effort and preceding item history remain unchanged; public response metadata follows the documented contract.
  • Reject adjacent updates and unsupported mode combinations. The current reference supports standard single-agent mode, excludes automatic compaction/truncation, and rejects updates at the standalone compact endpoint.
  • Explicit compaction_trigger behavior is covered, including a fresh update after compaction.
  • Tests cover malformed updates, unsupported effort, multiple turns, stored/transient state, and unsupported-backend errors. Cache-prefix assertions verify serialized input stability, not an assumed cache hit.
Additional context

Related: #314 (request capabilities), #298 (multi-agent compatibility boundaries). This issue changes API state and forwarding; it does not move prompt rendering or cache execution into the gateway.

Source: change reasoning mid-conversation.

Reviewed at cdac36f: implementation. Documentation checked September 18, 2026; pin the implementation-time API/model version when recording conformance.

Ngôn ngữ chính
Rust
Star
313
Fork
83
Merge trung bình
2 ngày 17 giờ
Pull request đã merge (30 ngày)
71

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của vllm-project/agentic-api

Tất cả issue của vllm-project/agentic-api

Issue tương tự

Thêm issue về Rust

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.