[Storage] Custom Response Deserializer (response-level)
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 5/5
- Thời gian dự kiến
- Hơn một tuần
- Mức phù hợp với người mới
- 35/100
Hướng nghiên cứu
Bắt đầu với ví dụ clients/blob_container_client.rs của các client được sinh, sau đó đọc các contract DeserializeWith và Format của typespec_client_core. Theo dõi cách các định dạng phản hồi và token tiếp tục của pager được chọn, đồng thời xác định các entry point của generator có liên quan. Hoàn thành khi client được sinh có thể hỗ trợ việc chọn định dạng ở cấp phản hồi và phân trang mà không cần chỉnh sửa thủ công các tệp được sinh.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Currently I am working on Arrow support for List Blobs: https://github.com/Azure/azure-sdk-for-rust/pull/4796 where I have been making some hand-written edits to the generated code just to test the feasibility, and I believe I have hit the limits of current TypeSpec and Azure Core constructs.
Background
The feature being added is that we now will expose augmenting the Accept header, and passing: application/vnd.apache.arrow.stream,application/xml
should yield arrow (with XML as infallible fallback, if the server cannot for whatever reason return arrow).
The Rust emitter currently hardcodes how a response body is deserialized based on its content type (i.e. application/xml → XmlFormat). There is no way, from TypeSpec /client.tsp, to tell the emitter "for this operation, deserialize the response with my own handwritten function." This blocks any scenario where the client must decide the body format at runtime.
This is analogous to the existing field-level deserialize_with client option:
- (i.e..
@@clientOption(BlobItem.name, "deserialize_with", "crate::models::blob_name::option::deserialize", "rust")) - but that hook is a serde field attribute that runs inside an already-chosen format, so it can't switch between two different wire formats (Arrow vs XML). We need the equivalent hook at response-level.
Therefore, a single API call can therefore return either Arrow or XML on the wire, and the client chooses the right decoder per response.
Issues
Two things, both in the emitter's generated output:
1. No response-level format / deserializer override
The emitter picks the response Format from the content type and bakes it into the return type (e.g. Response<ListBlobsResponse, XmlFormat> / Pager<ListBlobsResponse, XmlFormat>). There is no client option to substitute a custom Format marker (e.g. crate::.../ArrowOrXmlFormat) or a custom response deserializer for a given operation that has the flexibility to determine what format and deserialization path to go down at runtime.
Sub-question: how does the custom deserializer know which format it received?
However this override is designed, the runtime deserializer needs a signal to tell Arrow from XML. There are two ways to provide that signal, and they have different implications:
Option A: Body sniffing (no signature change to DeserializeWith)
The current DeserializeWith::deserialize_with(body: ResponseBody) receives only the body, not the response headers. Since Apache Arrow IPC streams begin with the ARROW1 magic bytes and XML begins with <, the deserializer can inspect the leading bytes of the body and dispatch accordingly.
- ✅ Works with the trait exactly as it exists today - no core signature changes.
- ✅ Robust even if the service mislabels
Content-Type; it keys off the actual payload. - ✅ Keeps the format decision fully self-contained in the handwritten deserializer.
- ⚠️ Relies on a magic-byte heuristic rather than the declared content type; correct for Arrow/XML but not a general "any content type" mechanism.
- ⚠️ Requires the body to be buffered enough to peek at the header bytes (already the case here).
Option B: Pass response headers into the deserializer
Change the DeserializeWith / Format contract so the deserializer also receives the response headers (e.g. Content-Type), and dispatch on that.
- ✅ Uses the service's declared content type - the "correct" HTTP-native signal, and generalizes to any future format negotiation.
- ✅ No payload-shape assumptions.
- ⚠️ Requires a breaking change to a core trait (
DeserializeWith/Format) intypespec_client_core, touching every existingFormatimplementation and consumer. - ⚠️ Trusts the server's
Content-Type; if it's ever wrong or missing, deserialization picks the wrong path (Arrow's fallback-to-XML makes this a real edge case to reason about). - ⚠️ Larger blast radius and coordination cost across the SDK.
2. Pager continuation extraction is hardcoded to XML
For paged operations, the generated pager closure extracts the continuation token with a literal xml::from_xml(&body) to read NextMarker - outside the Format / DeserializeWith path (list_blobs example):
let (status, headers, body) = rsp.deconstruct();
let res: ...Page = xml::from_xml(&body)?; // <-- hardcoded XML, not format-driven
On an Arrow body the continuation token lives in Arrow schema metadata, not XML, so this line fails regardless of any custom Format. Even if issue 1 is solved, paging still breaks.
Current Workarounds (Illegal Edits to Generated Code)
Today the only way to make this work is to hand-edit the generated client method to sniff the content type and decode Arrow, then re-encode it back to XML so the return type (Pager<..., XmlFormat>) is satisfied. This:
- edits files under
generated/(overwritten on the next regeneration), and - does an Arrow → XML → Arrow round-trip that throws away the entire performance reason for supporting Arrow.
This also opens out the discussion of how we will handle the breaking nature of this change given that XmlFormat is currently baked into the response type unfortunately 😢
- Ngôn ngữ chính
- Rust
- Star
- 8
- Fork
- 11
- Merge trung bình
- 16 giờ 4 phút
- Pull request đã merge (30 ngày)
- 5
Chuẩn bị môi trường
- Không có Dockerfile hay tệp Docker Compose
- Không có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của Azure/typespec-rust
-
CodeGen rust
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
Azure/typespec-rust#959 ·
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 64/100
Azure/typespec-rust#1032 ·
-
CodeGen
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100
Azure/typespec-rust#1029 ·
-
CodeGen
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 35/100
Azure/typespec-rust#1028 ·
-
CodeGen
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 55/100
Azure/typespec-rust#1020 ·
Tất cả issue của Azure/typespec-rust
Issue tương tự
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 84/100
-
area: cli bug priority: P2 ready-for-agent
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 74/100
Maintainer thường phản hồi trong vòng 2 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 84/100
Maintainer thường phản hồi trong vòng 2 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
Maintainer thường phản hồi trong vòng 1 ngày