[Feature]: 会话过程中实时显示模型性能指标
Maintainer antworten meist innerhalb von 1 Tag
Dieses Issue hat noch niemand übernommen.
Bewertung
- Schwierigkeit
- 5/5
- Geschätzter Aufwand
- Über eine Woche
- Anfängerfreundlichkeit
- 35/100
- Issue-Typ
- Feature
- Klarheit
- Größtenteils klar
- Aktivitätsstatus
- Aktiv
- Tech-Stack
- rust
- Bereich
- desktop, observability-sre
Rechercherichtung
The issue names no files, tests, or entry points. Start by locating the session UI and the model-response metrics available to the desktop application, then determine which proposed display format and metrics are supported. Done means the chosen metrics update during a session and show the completed call's values clearly.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Beschreibung
Problem / opportunity
目前 BitFun 在一次 Agent 会话过程中，用户无法直接看到模型的运行性能数据，比如：
- 首 token 延迟：从发出请求到收到第一个 token 的耗时；
- 生成速度：每次响应实际消耗多少时间、平均 token 生成速度；
- 单轮消耗：本轮请求的 input / output token 数；
- KV Cache 命中率 / 重用情况（README 中已有整体统计，但用户看不到当前会话的实时值）。
这对以下场景造成实际困扰：
- 调试慢响应时没有依据——不知道是网络慢、模型排队慢，还是上下文过长导致 TTFT 变慢。
Proposed behavior
在会话过程中实时显示模型的性能指标。具体形式可以考虑以下任一种（或组合）：
方案 A：底部状态栏（推荐，侵入性最小）
在会话界面底部（或消息输入框附近）加一条细的状态栏，实时显示当前/最近一次调用的：
Tokens/s（生成速度，响应结束后固定为该轮平均值）TTFT（首 token 延迟，仅响应过程中显示）- （可选）
Cache hit 96%（当前会话的 KV Cache 重用率）
方案 B：单条消息的悬浮详情
每条 AI 回复的右下角显示一个小的 ⚙ 或 ⚡ 图标，hover / 点击后展开该次调用的详细元数据：
- input / output token 数
- 请求耗时、排队耗时、生成耗时
- 是否命中 KV Cache、命中的块数
`
- Vorherrschende Sprache
- Rust
- Sterne
- 2.3k
- Forks
- 236
- Ø Merge
- 2 Std. 53 Min.
- Gemergte PRs (30 T.)
- 404
Entwicklungsumgebung
Erste Schritte
- Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
- Forken Sie das Repository und arbeiten Sie in einem Branch.
- Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.
Mehr aus GCWing/OpenBitFun
-
Schwierigkeit 2/5 Ein halber Tag Anfängerfreundlichkeit 74/100
GCWing/OpenBitFun#3279 ·
Maintainer antworten meist innerhalb von 1 Tag
-
[Bug]: 界面写“敏感诊断信息默认关闭”，但后端配置当前实际默认是 trueEvtl. vergeben @xiechimon hat das vor 12 Tagen übernommen. Offen
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 75/100
GCWing/OpenBitFun#3213 · 1 Kommentar ·
Maintainer antworten meist innerhalb von 1 Tag
-
bug
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 72/100
GCWing/OpenBitFun#2363 ·
Maintainer antworten meist innerhalb von 1 Tag
-
question
Schwierigkeit 1/5 Unter einer Stunde Anfängerfreundlichkeit 78/100
GCWing/OpenBitFun#2340 ·
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 35/100
GCWing/OpenBitFun#3278 ·
Maintainer antworten meist innerhalb von 1 Tag
Alle Issues in GCWing/OpenBitFun
Ähnliche Issues
-
Schwierigkeit 1/5 Unter einer Stunde Anfängerfreundlichkeit 80/100
Devolutions/picky-rs#546 · 1 Kommentar ·
Maintainer antworten meist innerhalb von 3 Tagen
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 76/100
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 74/100
Maintainer antworten meist innerhalb von 1 Tag
-
enhancement
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 78/100
zcashlabs/thus-spoke-zakura#153 ·
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 79/100
topgrade-rs/topgrade#2395 ·
Maintainer antworten meist innerhalb von 1 Tag