InferenceClient: provide generator-based bulk inference

Aperta

#68 aperta il 5/8/2020 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà: 4/5
Tempo stimato: 3-5 giorni
Idoneità per principianti: 35/100

Tipo di issue: Funzionalità
Chiarezza: Abbastanza chiara
Stato di attività: Ferma
Stack tecnologico: python
Ambito: api

Direzione di ricerca

Locate InferenceClient and do_bulk_inference, then review the related issue #62 for context. Determine whether the existing API or a separate method should yield individual chunks; done means callers can handle errors without losing progress and do_bulk_inference uses the generator-based behavior.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

The current implementation will try to perform inference for all chunks. If an exception occurs, the progress is lost.

By yielding the individual chunks, the caller can be in charge of error handling.

We can either change the existing API or introduce a separate method (and implement do_bulk_inference using the new method).

Guida per i contributori

Apri la guida per i contributori

Come iniziare

Leggi tutta la issue e poi la guida ai contributi del progetto.
Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
Fai un fork del repository e lavora su un branch.
Apri una pull request che faccia riferimento al numero della issue.

Altre issue di SAP/data-attribute-recommendation-python-sdk

Update Dependencies Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 30/100

SAP/data-attribute-recommendation-python-sdk#132 · Aperta il 9/1/2023
Fix misleading log message Aperta

Difficoltà 2/5 1-3 ore Idoneità per principianti 45/100

SAP/data-attribute-recommendation-python-sdk#127 · Aperta il 3/5/2022
Generate dataset schema from pandas dataframe Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 20/100

SAP/data-attribute-recommendation-python-sdk#126 · Aperta il 26/4/2022
For 1.0, enable retry by default for inference Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 15/100

SAP/data-attribute-recommendation-python-sdk#125 · Aperta il 26/4/2022
Ensure thread safety Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100

SAP/data-attribute-recommendation-python-sdk#123 · Aperta il 26/11/2021

Tutte le issue di SAP/data-attribute-recommendation-python-sdk

Issue simili

`Array.initialize` and `Array.repeat` throw on a negative count Aperta

Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100

gren-lang/core#167 · Aperta il 25/9/2026
fix(pg-meta): schemas.update and schemas.remove DO blocks fail when a name contains "$$" Aperta

external-issue to-triage

Difficoltà 2/5 1-3 ore Idoneità per principianti 88/100

supabase/supabase#50882 · Aperta il 24/9/2026
wkt: `WKTFieldMask.paths` is an immutable `public let paths: [String]` with no default `init(paths: [String] = [])` or `.with(_:)` helper, preventing in-place mutation Aperta

Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100

googleapis/google-cloud-swift#1151 · Aperta il 24/9/2026
SqliteSaver.list(filter=...) silently misses nested metadata values containing non-ASCII text Aperta

external

Difficoltà 2/5 1-3 ore Idoneità per principianti 65/100

langchain-ai/langgraph#9074 · 1 commento · Aperta il 24/9/2026
Correct FileCitationBody.index documentation to describe its position in output text Aperta

documentation specification

Difficoltà 1/5 Meno di un'ora Idoneità per principianti 90/100

openai/openai-openapi#584 · Aperta il 24/9/2026

Altre issue su Backend & API Design