[Bug]: LLM 工具调用 XML 泄露导致快速无限膨胀污染上下文
Los mantenedores suelen responder en 1 día
@wsp1911 ya está trabajando en esto.
Desde el 14/7/2026.
Evaluación
Este issue todavía no se ha evaluado.
Descripción
Summary
LLM 推理异常时，将工具调用指令（<tool_calls> 等 XML 标签）以纯文本形式输出到对话区。系统未做防护，将其识别为合法调用继续执行，形成递归循环，导致上下文在数秒内无限膨胀直至撑爆。
预期行为： 系统应检测这种泄露并中断循环，而非无限递归。
Area
Desktop app
Reproduction or evidence
复现步骤：
发起对话触发 LLM 调用
模型某次推理异常，输出中出现本应是工具调用指令的 XML 标签（如 <tool_calls>...）作为自然语言回复内容
系统解析输出时检测到 <tool_calls>，将其作为合法调用执行
工具返回结果 → 再次喂给 LLM → LLM 再次输出同样的 XML 标签
循环往复，上下文飞速膨胀
示例：
<｜DSML｜tool_calls> <｜DSML｜invoke name="ExecCommand"> <｜DSML｜parameter name="cmd" string="false">Get<｜DSML｜tool_calls> <｜DSML｜invoke name="ExecCommand"> <｜DSML｜parameter name="cmd" string="false">Get-<｜DSML｜tool_calls> <｜DSML｜invoke name="ExecCommand"> <｜DSML｜parameter name="cmd" string="false">Get-Child<｜DSML｜tool_calls> <｜DSML｜invoke name="ExecCommand"> <｜DSML｜parameter name="cmd" string="false">Get-ChildItem<｜DSML｜tool_calls>
可见工具调用 XML 被当作纯文本输出到对话区，且 Get- 命令不断重复，形成死循环。
建议修复方向（供参考）：
泄露检测：解析 LLM 输出时，若 <tool_calls> 出现在自然语言文本块中，判定异常并中断
递归熔断：单次请求最大工具调用嵌套深度限制在 10 层以内
死循环检测：连续 2-3 轮工具调用输出结构完全相同，判定为死循环并立即中断
Environment, if relevant
BitFun版本：0.2.12
平台：Win11
LLM：DeepSeekv4flash
- Lenguaje dominante
- Rust
- Estrellas
- 2.3k
- Forks
- 236
- Merge medio
- 2 h 51 min
- PR fusionados (30 d)
- 425
Preparar el entorno
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de GCWing/OpenBitFun
-
[Bug]: 界面写“敏感诊断信息默认关闭”，但后端配置当前实际默认是 truePosiblemente ocupada @xiechimon la tomó hace 11 días. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
GCWing/OpenBitFun#3213 · 1 comentario ·
Los mantenedores suelen responder en 1 día
-
bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
GCWing/OpenBitFun#2363 ·
Los mantenedores suelen responder en 1 día
-
question
Dificultad 1/5 Menos de una hora Aptitud para principiantes 78/100
GCWing/OpenBitFun#2340 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 4/5 3-5 días Aptitud para principiantes 62/100
GCWing/OpenBitFun#3275 ·
Los mantenedores suelen responder en 1 día
-
[Feature]: 会话过程中实时显示模型性能指标Abierto
Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100
GCWing/OpenBitFun#3274 ·
Los mantenedores suelen responder en 1 día
Todos los issues de GCWing/OpenBitFun
Issues similares
-
review-drift
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
oxidecomputer/hansei#14 ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
rubys/roundhouse#444 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 85/100
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
Los mantenedores suelen responder en 1 día
-
install: root SSH tmpfiles.d drop-in is labeled etc_runtime_t instead of etc_tPosiblemente ocupada @andrewdunndev la tomó hoy. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
Los mantenedores suelen responder en 1 día