[Feature]: 会话过程中实时显示模型性能指标
Los mantenedores suelen responder en 1 día
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 5/5
- Tiempo estimado
- Más de una semana
- Aptitud para principiantes
- 35/100
- Tipo de issue
- Nueva funcionalidad
- Claridad
- Bastante claro
- Estado de actividad
- Activo
- Stack tecnológico
- rust
- Área
- desktop, observability-sre
Línea de trabajo
The issue names no files, tests, or entry points. Start by locating the session UI and the model-response metrics available to the desktop application, then determine which proposed display format and metrics are supported. Done means the chosen metrics update during a session and show the completed call's values clearly.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Problem / opportunity
目前 BitFun 在一次 Agent 会话过程中,用户无法直接看到模型的运行性能数据,比如:
- 首 token 延迟:从发出请求到收到第一个 token 的耗时;
- 生成速度:每次响应实际消耗多少时间、平均 token 生成速度;
- 单轮消耗:本轮请求的 input / output token 数;
- KV Cache 命中率 / 重用情况(README 中已有整体统计,但用户看不到当前会话的实时值)。
这对以下场景造成实际困扰:
- 调试慢响应时没有依据——不知道是网络慢、模型排队慢,还是上下文过长导致 TTFT 变慢。
Proposed behavior
在会话过程中实时显示模型的性能指标。具体形式可以考虑以下任一种(或组合):
方案 A:底部状态栏(推荐,侵入性最小)
在会话界面底部(或消息输入框附近)加一条细的状态栏,实时显示当前/最近一次调用的:
Tokens/s(生成速度,响应结束后固定为该轮平均值)TTFT(首 token 延迟,仅响应过程中显示)- (可选)
Cache hit 96%(当前会话的 KV Cache 重用率)
方案 B:单条消息的悬浮详情
每条 AI 回复的右下角显示一个小的 ⚙ 或 ⚡ 图标,hover / 点击后展开该次调用的详细元数据:
- input / output token 数
- 请求耗时、排队耗时、生成耗时
- 是否命中 KV Cache、命中的块数
`
- Lenguaje dominante
- Rust
- Estrellas
- 2.3k
- Forks
- 236
- Merge medio
- 2 h 51 min
- PR fusionados (30 d)
- 425
Preparar el entorno
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de GCWing/OpenBitFun
-
[Bug]: 界面写“敏感诊断信息默认关闭”,但后端配置当前实际默认是 truePosiblemente ocupada @xiechimon la tomó hace 11 días. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
GCWing/OpenBitFun#3213 · 1 comentario ·
Los mantenedores suelen responder en 1 día
-
bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
GCWing/OpenBitFun#2363 ·
Los mantenedores suelen responder en 1 día
-
question
Dificultad 1/5 Menos de una hora Aptitud para principiantes 78/100
GCWing/OpenBitFun#2340 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 4/5 3-5 días Aptitud para principiantes 62/100
GCWing/OpenBitFun#3275 ·
Los mantenedores suelen responder en 1 día
-
[Feature]: 生态兼容逻辑优化Abierto
Dificultad 3/5 1-2 días Aptitud para principiantes 58/100
GCWing/OpenBitFun#3271 ·
Los mantenedores suelen responder en 1 día
Todos los issues de GCWing/OpenBitFun
Issues similares
-
Dificultad 1/5 Menos de una hora Aptitud para principiantes 74/100
-
review-drift
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
oxidecomputer/hansei#14 ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
rubys/roundhouse#444 ·
Los mantenedores suelen responder en 1 día
-
Published hardy-bpa-server image is built without the file-cla featurePosiblemente ocupada @EmbryoSpace la tomó hoy. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 85/100
ricktaylor/hardy#755 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 62/100
semaphoreci/docker-images#46 · 1 comentario ·