[Research] 版本化任务轨迹与隔离评测集:为自我改进建立证据基座

Abierto
#28 0 comentarios 0 reacciones 0 asignados Ver en GitHub

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
5/5
Tiempo estimado
Más de una semana
Aptitud para principiantes
35/100
Tipo de issue
Nueva funcionalidad
Claridad
Bastante claro
Estado de actividad
Activo
Stack tecnológico
typescript

Línea de trabajo

Read packages/shared/src/evaluation/experiment-service.ts, packages/shared/src/evaluation/redactor.ts, and scripts/eval/README.md to understand the existing evaluation and redaction entry points; the proposal says these are reading references, not implemented capabilities. Start with the proposed minimum contribution: synthetic redacted tasks and replayable tool fixtures, while checking the dependency on issue #14. Done means fixtures can be replayed offline and the isolation, redaction, and baseline requirements are addressed.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

area:evaluation enhancement help wanted priority:later status:research type:research

状态:研究提案,尚未验证效果。阶段:R1 · Harness² × RSI Research。总路线:#8;当前能力:#9。

目标与价值

自我改进必须能区分真正泛化和记住测试答案。先建立合法、可脱敏、可回放的数据与实验协议。

验收标准

  • 定义任务、轨迹、工具夹具、记忆版本、模型/runtime/config 与预算清单
  • 按时间/任务族隔离训练、开发和留出测试,避免相似案例泄漏
  • 导出前去凭证/个人正文;真实用户数据必须另行明确授权
  • 基线覆盖成功、失败、恢复、权限与预算,报告方差和样本规模

验证方法

同版本离线夹具可复跑;对非确定模型记录重复次数与差异;加入泄漏检测和脱敏检查。

源码起点

以上是已有实现的阅读入口,不代表拟议能力已实现。

依赖与最小贡献

  • #14 — [Testing] Durable 任务故障注入与恢复一致性测试矩阵

先贡献一组脱敏合成任务和可回放工具夹具。

参与

认领前先说明拟完成的最小范围,再评论 /claim。提交 PR 时附真实环境、验证命令和结果;仅完成部分时请列出剩余项。贡献入口:#7。

Lenguaje dominante
TypeScript
Estrellas
206
Forks
37
Merge medio
7 h 8 min
PR fusionados (30 d)
8

Preparar el entorno

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de ydflow/Trail

Todos los issues de ydflow/Trail

Issues similares

Más issues de TypeScript

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.