[Feature]: 会话过程中实时显示模型性能指标
Les mainteneurs répondent en général sous 1 jour
Personne n'a encore pris cette issue.
Évaluation
- Difficulté
- 5/5
- Temps estimé
- Plus d'une semaine
- Accessibilité débutants
- 35/100
- Type d'issue
- Fonctionnalité
- Clarté
- Plutôt claire
- Activité
- Active
- Stack technique
- rust
- Domaine
- desktop, observability-sre
Piste de recherche
The issue names no files, tests, or entry points. Start by locating the session UI and the model-response metrics available to the desktop application, then determine which proposed display format and metrics are supported. Done means the chosen metrics update during a session and show the completed call's values clearly.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Description
Problem / opportunity
目前 BitFun 在一次 Agent 会话过程中，用户无法直接看到模型的运行性能数据，比如：
- 首 token 延迟：从发出请求到收到第一个 token 的耗时；
- 生成速度：每次响应实际消耗多少时间、平均 token 生成速度；
- 单轮消耗：本轮请求的 input / output token 数；
- KV Cache 命中率 / 重用情况（README 中已有整体统计，但用户看不到当前会话的实时值）。
这对以下场景造成实际困扰：
- 调试慢响应时没有依据——不知道是网络慢、模型排队慢，还是上下文过长导致 TTFT 变慢。
Proposed behavior
在会话过程中实时显示模型的性能指标。具体形式可以考虑以下任一种（或组合）：
方案 A：底部状态栏（推荐，侵入性最小）
在会话界面底部（或消息输入框附近）加一条细的状态栏，实时显示当前/最近一次调用的：
Tokens/s（生成速度，响应结束后固定为该轮平均值）TTFT（首 token 延迟，仅响应过程中显示）- （可选）
Cache hit 96%（当前会话的 KV Cache 重用率）
方案 B：单条消息的悬浮详情
每条 AI 回复的右下角显示一个小的 ⚙ 或 ⚡ 图标，hover / 点击后展开该次调用的详细元数据：
- input / output token 数
- 请求耗时、排队耗时、生成耗时
- 是否命中 KV Cache、命中的块数
`
- Langage dominant
- Rust
- Étoiles
- 2.3k
- Forks
- 236
- Merge moyen
- 2 h 53 min
- PR mergées (30 j)
- 404
Préparer son environnement
Par où commencer
- Lisez l'issue en entier, puis le guide de contribution du projet.
- Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
- Forkez le dépôt et travaillez sur une branche.
- Ouvrez une pull request qui référence le numéro de l'issue.
Autres issues de GCWing/OpenBitFun
-
Difficulté 2/5 Une demi-journée Accessibilité débutants 74/100
GCWing/OpenBitFun#3279 ·
Les mainteneurs répondent en général sous 1 jour
-
[Bug]: 界面写“敏感诊断信息默认关闭”，但后端配置当前实际默认是 truePeut-être pris @xiechimon l’a pris il y a 12 jours. Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 75/100
GCWing/OpenBitFun#3213 · 1 commentaire ·
Les mainteneurs répondent en général sous 1 jour
-
bug
Difficulté 2/5 1-3 heures Accessibilité débutants 72/100
GCWing/OpenBitFun#2363 ·
Les mainteneurs répondent en général sous 1 jour
-
question
Difficulté 1/5 Moins d'une heure Accessibilité débutants 78/100
GCWing/OpenBitFun#2340 ·
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 4/5 3-5 jours Accessibilité débutants 35/100
GCWing/OpenBitFun#3278 ·
Les mainteneurs répondent en général sous 1 jour
Toutes les issues de GCWing/OpenBitFun
Issues similaires
-
Difficulté 1/5 Moins d'une heure Accessibilité débutants 78/100
pyca/verified-garbage#1023 ·
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 1/5 Moins d'une heure Accessibilité débutants 74/100
-
review-drift
Difficulté 2/5 1-3 heures Accessibilité débutants 78/100
oxidecomputer/hansei#14 ·
-
Difficulté 2/5 1-3 heures Accessibilité débutants 76/100
rubys/roundhouse#444 ·
Les mainteneurs répondent en général sous 1 jour
-
Published hardy-bpa-server image is built without the file-cla featurePeut-être pris @EmbryoSpace l’a pris aujourd’hui. Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 85/100
ricktaylor/hardy#755 ·
Les mainteneurs répondent en général sous 1 jour