Hacktoberfest 2026: los issues que los mantenedores marcaron para octubre, abiertos y aptos para principiantes. Explorar issues de Hacktoberfest

[Feature]: 会话过程中实时显示模型性能指标

Abierto
#3,274 0 comentarios 0 reacciones 0 asignados Ver en GitHub

Los mantenedores suelen responder en 1 día

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
5/5
Tiempo estimado
Más de una semana
Aptitud para principiantes
35/100
Tipo de issue
Nueva funcionalidad
Claridad
Bastante claro
Estado de actividad
Activo
Stack tecnológico
rust

Línea de trabajo

The issue names no files, tests, or entry points. Start by locating the session UI and the model-response metrics available to the desktop application, then determine which proposed display format and metrics are supported. Done means the chosen metrics update during a session and show the completed call's values clearly.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

Problem / opportunity

目前 BitFun 在一次 Agent 会话过程中,用户无法直接看到模型的运行性能数据,比如:

  • 首 token 延迟:从发出请求到收到第一个 token 的耗时;
  • 生成速度:每次响应实际消耗多少时间、平均 token 生成速度;
  • 单轮消耗:本轮请求的 input / output token 数;
  • KV Cache 命中率 / 重用情况(README 中已有整体统计,但用户看不到当前会话的实时值)。

这对以下场景造成实际困扰:

  1. 调试慢响应时没有依据——不知道是网络慢、模型排队慢,还是上下文过长导致 TTFT 变慢。
Proposed behavior

在会话过程中实时显示模型的性能指标。具体形式可以考虑以下任一种(或组合):

方案 A:底部状态栏(推荐,侵入性最小)
在会话界面底部(或消息输入框附近)加一条细的状态栏,实时显示当前/最近一次调用的:

  • Tokens/s(生成速度,响应结束后固定为该轮平均值)
  • TTFT(首 token 延迟,仅响应过程中显示)
  • (可选)Cache hit 96%(当前会话的 KV Cache 重用率)

方案 B:单条消息的悬浮详情
每条 AI 回复的右下角显示一个小的 ⚙ 或 ⚡ 图标,hover / 点击后展开该次调用的详细元数据:

  • input / output token 数
  • 请求耗时、排队耗时、生成耗时
  • 是否命中 KV Cache、命中的块数

`

Lenguaje dominante
Rust
Estrellas
2.3k
Forks
236
Merge medio
2 h 51 min
PR fusionados (30 d)
425

Preparar el entorno

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de GCWing/OpenBitFun

Todos los issues de GCWing/OpenBitFun

Issues similares

Más issues de Rust

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.