KServe REST parser drops requested outputs except the last
Maintainer thường phản hồi trong vòng 2 ngày
Đánh giá
- Độ khó
- 2/5
- Thời gian dự kiến
- 1-3 giờ
- Mức phù hợp với người mới
- 35/100
Hướng nghiên cứu
Start with KFSRestParser::parseOutputs() and parseOutput() in the REST parser, then review src/test/kfs_rest_parser_test.cpp. Add coverage using the two-output request from the issue and verify both names are preserved in order in the parsed ModelInferRequest. An open linked pull request (#4691) is already addressing this issue.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Description
A KServe v2 REST inference request can specify multiple requested outputs, but the parser currently retains only the last entry in the outputs array.
Reproduction
Send a request containing two requested outputs:
{
"inputs": [{"name":"input0","shape":[1],"datatype":"FP32","data":[1.0]}],
"outputs": [{"name":"output0"},{"name":"output1"}]
}
Actual behavior
The parser returns successfully, but its ModelInferRequest protobuf contains only output1. KFSRestParser::parseOutputs() iterates over the JSON array and calls parseOutput() for each entry. parseOutput() calls requestProto.mutable_outputs()->Clear() before adding the current output, so each iteration erases the previous entries.
Expected behavior
Both requested outputs should be preserved, in request order. The KServe request schema defines outputs as a repeated field.
Evidence and test status
This is a deterministic source-level reproduction from the two-output JSON above and the Clear() inside the per-entry parser. Existing src/test/kfs_rest_parser_test.cpp tests cover single-output requests only. The targeted C++ parser test will be added; Bazel/Bazelisk and a built test binary are not available in the current environment, so runtime execution may not be possible here.
- Ngôn ngữ chính
- C++
- Star
- 952
- Fork
- 285
- Merge trung bình
- 3 ngày 5 giờ
- Pull request đã merge (30 ngày)
- 45
Chuẩn bị môi trường
- Không có Dockerfile hay tệp Docker Compose
- Có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của openvinotoolkit/model_server
-
KServe REST rejects INT64 and UINT64 values outside 32-bit rangeCó thể đã có người làm @YugShah1510 đã nhận 3 ngày trước. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 25/100
openvinotoolkit/model_server#4688 ·
Maintainer thường phản hồi trong vòng 2 ngày
-
Preserve double precision when parsing FP64 REST inputsCó thể đã có người làm @YugShah1510 đã nhận 3 ngày trước. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 35/100
openvinotoolkit/model_server#4686 ·
Maintainer thường phản hồi trong vòng 2 ngày
-
Rerank with an empty documents array or object documents fails with an internal tokenizer errorCó thể đã có người làm @Daksha1611 đã nhận 7 ngày trước. Đang mở
Độ khó 4/5 1-2 ngày Mức phù hợp với người mới 24/100
openvinotoolkit/model_server#4671 ·
Maintainer thường phản hồi trong vòng 2 ngày
-
Downloading an image from a URL has no timeoutCó thể đã có người làm @Daksha1611 đã nhận 8 ngày trước. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 35/100
openvinotoolkit/model_server#4669 ·
Maintainer thường phản hồi trong vòng 2 ngày
-
max_tokens and best_of reject a value equal to their configured limitCó thể đã có người làm @Daksha1611 đã nhận 8 ngày trước. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 25/100
openvinotoolkit/model_server#4666 ·
Maintainer thường phản hồi trong vòng 2 ngày
Tất cả issue của openvinotoolkit/model_server
Issue tương tự
-
[Bug] [Go] Ack returns nil when the server answers with a non-OK statusCó thể đã có người làm @leizhiyuan đã nhận hôm nay. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 84/100
apache/rocketmq-clients#1465 ·
Maintainer thường phản hồi trong vòng 2 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
KhronosGroup/Vulkan-Tutorial#534 ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
Maintainer thường phản hồi trong vòng 2 ngày
-
bug IO
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
MrNeRF/LichtFeld-Studio#3824 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
pnnx: manual tanh GELU fusion loses the approximation modeCó thể đã có người làm @ktz03 đã nhận hôm nay. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
Tencent/ncnn#7175 · 1 reaction ·
Maintainer thường phản hồi trong vòng 1 ngày