[util-genai] Investigate streaming helpers for agent and workflow invocations
I maintainer di solito rispondono entro 1 giorno
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Idoneità per principianti
- 35/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Da chiarire
- Stato di attività
- Attiva
- Stack tecnologico
- python
- Ambito
- observability-sre
Direzione di ricerca
Inizia leggendo SyncStreamWrapper e AsyncStreamWrapper in opentelemetry-util-genai, quindi confronta gli approcci di instrumentation di qwen-agent e agno descritti nell’issue. Analizza come le invocazioni di agenti e workflow possano evitare metriche dei token client non supportate, condividendo al contempo l’accumulo dei chunk e la serializzazione degli oggetti strutturati. Il lavoro è considerato completato quando è stato identificato un approccio chiaro e coerente con il progetto e ne è stato documentato il comportamento previsto.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
SyncStreamWrapper and AsyncStreamWrapper in opentelemetry-util-genai are designed around LLM inference invocations (chat, generate_content). When passed an invocation, they mark it as streamed and record client token streaming metrics (gen_ai.client.operation.time_to_first_chunk and time_per_output_chunk) on each chunk.
Agent (invoke_agent) and workflow (invoke_workflow) operations do not define these client token metrics under GenAI semantic conventions. As a result, agent instrumentations either avoid passing the invocation to super().__init__ (e.g. qwen-agent) to manage the lifecycle manually, or pass it and emit invalid metrics (e.g. agno).
Agent instrumentations also duplicate logic for accumulating stream chunks into output_messages based on content capture settings, and serializing structured content (Pydantic models, dataclasses) into JSON strings.
Investigate possible approaches in util-genai to:
- Support streaming agent and workflow invocations without recording client token timing metrics.
- Reduce boilerplate across agent instrumentations for chunk content accumulation and structured object serialization.
- Lingua principale
- Python
- Stelle
- 47
- Fork
- 102
- Merge medio
- 2g 13h
- PR unite (30g)
- 111
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Ha un modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di open-telemetry/opentelemetry-python-genai
-
`opentelemetry-instrumentation-openai-v2` instrumentor entry point fails to loadForse già presa @lmolkova l’ha presa 1 giorno fa. Apertabug
Difficoltà 2/5 1-3 ore Idoneità per principianti 74/100
open-telemetry/opentelemetry-python-genai#997 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
Support disabling OpenAI Agents native trace export through an environment variableForse già presa @123liuziming l’ha presa 10 giorni fa. Apertaenhancement
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
open-telemetry/opentelemetry-python-genai#922 · 3 commenti ·
I maintainer di solito rispondono entro 1 giorno
-
fix(smolagents): accept tuple inputs for messages, content, and task imagesForse già presa @SAMurai-16 l’ha presa 13 giorni fa. Aperta
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 82/100
open-telemetry/opentelemetry-python-genai#905 ·
I maintainer di solito rispondono entro 1 giorno
-
documentation
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
open-telemetry/opentelemetry-python-genai#857 · 1 commento · 1 reazione ·
I maintainer di solito rispondono entro 1 giorno
-
[genai-bedrock] invoke_model body passed as a file-like object: no request parameters or input messages are recordedForse già presa @SyedTashfin l’ha presa 20 giorni fa. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100
open-telemetry/opentelemetry-python-genai#848 ·
I maintainer di solito rispondono entro 1 giorno
Tutte le issue di open-telemetry/opentelemetry-python-genai
Issue simili
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 79/100
aws-samples/sample-per-model-bedrock#639 ·
I maintainer di solito rispondono entro 1 giorno
-
bug
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 86/100
awslabs/visual-asset-management-system#937 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 62/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 79/100
project-codeflare/codeflare-sdk#1195 ·
I maintainer di solito rispondono entro 1 giorno
-
Bump numpy dependencyAperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 65/100
pandas-dev/pandas-stubs#2051 ·
I maintainer di solito rispondono entro 1 giorno