feat: liveness signal for wedged provider streams (5min chunk timeout hides stalls)
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Idoneità per principianti
- 35/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Da chiarire
- Stato di attività
- Tranquilla
- Stack tecnologico
- typescript
- Ambito
- observability-sre
Direzione di ricerca
Inizia in provider.ts, all'interno di wrapSSE, e verifica come DEFAULT_CHUNK_TIMEOUT rileva attualmente i chunk mancanti. Confronta il segnale separato no-first-byte/liveness e l'indicatore di attesa prolungata proposti nell'issue, quindi identifica quale comportamento dovrebbe essere specificato prima dell'implementazione. Il lavoro è completato quando uno stream bloccato diventa visibile prima, senza introdurre regressioni negli stream di provider intenzionalmente lenti.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Found during the v0.8.8 release review (Chaos Gremlin / on-call SRE, P2 deferred).
#844 raised DEFAULT_CHUNK_TIMEOUT from 2min to 5min. The watchdog (wrapSSE in provider.ts) only fires when a chunk fails to arrive within the window, so a genuinely wedged provider stream (connection alive, no data) now hangs a user for ~5 minutes before the timeout aborts — up from ~2. Errors are surfaced, not silent, but the user-visible stall doubled.
This was an intentional tradeoff (slow warehouse/LLM streams were tripping the 2min watchdog), so it is deferred. Possible follow-up: a separate, shorter "no first byte" / liveness signal distinct from the steady-state chunk timeout, or surfacing a "still waiting…" indicator past N seconds so a wedged stream is visible before the hard timeout.
- Lingua principale
- TypeScript
- Stelle
- 813
- Fork
- 134
- Merge medio
- 2g 2h
- PR unite (30g)
- 67
Guida per i contributori
Apri la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di AltimateAI/altimate-code
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 70/100
AltimateAI/altimate-code#1359 ·
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 84/100
AltimateAI/altimate-code#1323 ·
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 86/100
AltimateAI/altimate-code#1288 ·
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 92/100
AltimateAI/altimate-code#1285 ·
-
privacy: Altimate Base consent dialog no longer discloses persistent per-installation identifier Aperta
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 88/100
AltimateAI/altimate-code#1284 ·
Tutte le issue di AltimateAI/altimate-code
Issue simili
-
Difficoltà 1/5 1-3 ore Idoneità per principianti 88/100
motiondivision/motion#3849 ·
-
Add: S Play Event HD Apertacheck:passed streams:add
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
-
LiteLLM proxy response_cost (x-litellm-response-cost) is never applied to ChatModelOutput.cost Apertabug
Difficoltà 2/5 1-3 ore Idoneità per principianti 84/100
i-am-bee/beeai-framework#1697 · 1 reazione ·
-
Support bun dedupe Apertaenhancement
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
antfu/node-modules-inspector#214 ·