Question about batch inference support

Đang mở

#235 mở ngày 12/2/2026 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Chưa có ai nhận issue này.

Đánh giá

Độ khó: 5/5
Thời gian dự kiến: Hơn một tuần
Mức phù hợp với người mới: 20/100

Loại issue: Tính năng
Độ rõ ràng: Cần làm rõ
Mức độ hoạt động: Đình trệ
Công nghệ: python
Lĩnh vực: api, machine-learning

Hướng nghiên cứu

The issue mentions batch inference and an HTTP server but names no files, tests, or entry points. First clarify whether both capabilities are requested and what API behavior is expected, then locate the relevant inference and serving entry points. Done should include an agreed implementation scope and verification for batch requests through the HTTP API.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

Hi DiffSynth Team,
Does it support batch inference mode, is there a building http server support so I can deploy it to server, that use http api to do batch inferece.

Thank you

Ngôn ngữ chính: Python
Star: 432
Fork: 51
Merge trung bình: 3 ngày 5 giờ
Pull request đã merge (30 ngày): 1

Hướng dẫn đóng góp

Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này

Bắt đầu từ đâu

Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
Fork repository và làm thay đổi trên một nhánh.
Mở pull request có tham chiếu số hiệu của issue.

Issue khác của modelscope/DiffSynth-Engine

performance regression on Ring SP Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 55/100

modelscope/DiffSynth-Engine#266 · Mở ngày 3/8/2026
It is supported of the model wan2.2-fun-a14b-inp ? Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

modelscope/DiffSynth-Engine#238 · 1 bình luận · Mở ngày 11/3/2026
MAC Ultra pipe.load_lora raise an error "AttributeError: QwenImageDiT has no attribute `diffusion_model`" Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

modelscope/DiffSynth-Engine#224 · 2 bình luận · Mở ngày 12/1/2026
ModuleNotFoundError: No module named 'torch.distributed.tensor.parallel._utils' Đang mở

Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 32/100

modelscope/DiffSynth-Engine#223 · 2 bình luận · Mở ngày 8/1/2026
TypeError: WanS2VDiT.forward() got an unexpected keyword argument 'attn_kwargs' Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 55/100

modelscope/DiffSynth-Engine#221 · Mở ngày 7/1/2026

Tất cả issue của modelscope/DiffSynth-Engine

Issue tương tự

validate-structure inspecte challenge/work/.terraform et rend faux les labs qui ont un provider en cache Đang mở

bug

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100

stephrobert/dsoxlab#238 · Mở ngày 24/9/2026
Uniform probability densities use the upper bound as an interval width Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100

nasa/fmdtools#40 · Mở ngày 24/9/2026
_common_folder() treats a single file as the common folder; single-file archives can't be installed (4.2.8) / crash (master) Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100

sublimehq/package_control#1780 · Mở ngày 24/9/2026
Set 'Sample' input in 'autorun.py' to utilize 'Sample' Tab in eLog Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100

pcdshub/mfx#309 · 2 bình luận · Mở ngày 24/9/2026
niri config file addition does not respect existing optional include Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 70/100

nwg-piotr/nwg-displays#145 · Mở ngày 24/9/2026

Thêm issue về Python