Hacktoberfest 2026: le issue che i maintainer hanno segnato per ottobre, aperte e adatte ai principianti. Sfoglia le issue Hacktoberfest

Cancel for streaming Responses

Aperta
  • Qualcosa non va?
#2,643 2 commenti 11 reazioni 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 1 giorno

Nessuno ha ancora preso questa issue.

  • #2916 di @giulio-leone — chiusa senza merge

Valutazione

Difficoltà
4/5
Tempo stimato
3-5 giorni
Idoneità per principianti
38/100
Tipo di issue
Funzionalità
Chiarezza
Abbastanza chiara
Stato di attività
Ferma
Stack tecnologico
python
Ambito
api

Direzione di ricerca

Inizia in src/openai/resources/responses/responses.py, intorno alla definizione di responses.cancel alle righe 1457–1458, quindi segui la gestione delle risposte in streaming. Determina se la disconnessione di uno stream annulla già il lavoro lato server o se è necessario il supporto della libreria. Il lavoro è completo quando una risposta in streaming o sincrona può essere annullata senza continuare un’elaborazione non necessaria, con il comportamento confermato da test o dal comportamento documentato dell’API.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

Confirm this is a feature request for the Python library and not the underlying OpenAI API.
  • This is a feature request for the Python library
Describe the feature or improvement you're requesting

Allow for cancellation of streaming/synchronous responses.

Additional context

Currently, responses.cancel is only supported for background responses

For streaming responses one can sever the connection and start a new run from a new response_id node.

However, this could have cost implications. I.e. if a user cancels a run, we do not want to pay for extra compute on the the next ResponseCompletedEvent; this is especially notable if the LLM wants to do multiple tool calls.

Is this, canceling a streaming response, something that is already happening by default when a an OpenAI user disconnects? if not could we please have this feature?

Lingua principale
Python
Stelle
31.8k
Fork
7.3k
Merge medio
1g 1h
PR unite (30g)
137

Preparare l'ambiente

Apri in Codespaces

Avvia il container di sviluppo del progetto nel browser, con il tuo account GitHub.

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di openai/openai-python

Tutte le issue di openai/openai-python

Issue simili

Altre issue su Python

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.