InferenceClient: provide generator-based bulk inference

Đang mở

#68 mở ngày 5/8/2020 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Chưa có ai nhận issue này.

Đánh giá

Độ khó: 4/5
Thời gian dự kiến: 3-5 ngày
Mức phù hợp với người mới: 35/100

Loại issue: Tính năng
Độ rõ ràng: Khá rõ ràng
Mức độ hoạt động: Đình trệ
Công nghệ: python
Lĩnh vực: api

Hướng nghiên cứu

Locate InferenceClient and do_bulk_inference, then review the related issue #62 for context. Determine whether the existing API or a separate method should yield individual chunks; done means callers can handle errors without losing progress and do_bulk_inference uses the generator-based behavior.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

The current implementation will try to perform inference for all chunks. If an exception occurs, the progress is lost.

By yielding the individual chunks, the caller can be in charge of error handling.

We can either change the existing API or introduce a separate method (and implement do_bulk_inference using the new method).

Hướng dẫn đóng góp

Mở hướng dẫn đóng góp

Bắt đầu từ đâu

Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
Fork repository và làm thay đổi trên một nhánh.
Mở pull request có tham chiếu số hiệu của issue.

Issue khác của SAP/data-attribute-recommendation-python-sdk

Update Dependencies Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 30/100

SAP/data-attribute-recommendation-python-sdk#132 · Mở ngày 9/1/2023
Fix misleading log message Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 45/100

SAP/data-attribute-recommendation-python-sdk#127 · Mở ngày 3/5/2022
Generate dataset schema from pandas dataframe Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 20/100

SAP/data-attribute-recommendation-python-sdk#126 · Mở ngày 26/4/2022
For 1.0, enable retry by default for inference Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 15/100

SAP/data-attribute-recommendation-python-sdk#125 · Mở ngày 26/4/2022
Ensure thread safety Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

SAP/data-attribute-recommendation-python-sdk#123 · Mở ngày 26/11/2021

Tất cả issue của SAP/data-attribute-recommendation-python-sdk

Issue tương tự

`Array.initialize` and `Array.repeat` throw on a negative count Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100

gren-lang/core#167 · Mở ngày 25/9/2026
fix(pg-meta): schemas.update and schemas.remove DO blocks fail when a name contains "$$" Đang mở

external-issue to-triage

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100

supabase/supabase#50882 · Mở ngày 24/9/2026
wkt: `WKTFieldMask.paths` is an immutable `public let paths: [String]` with no default `init(paths: [String] = [])` or `.with(_:)` helper, preventing in-place mutation Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100

googleapis/google-cloud-swift#1151 · Mở ngày 24/9/2026
SqliteSaver.list(filter=...) silently misses nested metadata values containing non-ASCII text Đang mở

external

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100

langchain-ai/langgraph#9074 · 1 bình luận · Mở ngày 24/9/2026
Correct FileCitationBody.index documentation to describe its position in output text Đang mở

documentation specification

Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 90/100

openai/openai-openapi#584 · Mở ngày 24/9/2026

Thêm issue về Backend & API Design