Failed review runs pass negative evals

Abierto
#50 0 comentarios 0 reacciones 0 asignados Ver en GitHub

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
4/5
Tiempo estimado
3-5 días
Aptitud para principiantes
48/100
Tipo de issue
Error
Claridad
Bastante claro
Estado de actividad
Activo
Stack tecnológico
typescript
Área
testing-qa

Línea de trabajo

Read src/evals/eval-runner.ts at lines 487 and 576, src/evals/eval-scoring.ts at line 69, and src/cli/main.ts at line 50; compare how live evals handle failed run health with the CLI. The probe described in the issue uses a failed run.json outcome, exit code 1, and zero findings. Preserve retained findings and report failed samples separately; the aggregate policy for mixed valid and failed draws still needs a decision.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

bug

Problem: Both live eval paths ignore review health. A well-formed zero-finding negative eval with run.json outcome failed and exit code 1 scores as pass. Preserve retained findings and report the failed sample separately; aggregate policy for mixed valid and failed draws needs a decision.
File:line: src/evals/eval-runner.ts:487,576; src/evals/eval-scoring.ts:69; src/cli/main.ts:50.
Evidence: Probe with failed run health and zero findings; CLI honors failed health.
Suggested fix size: S.
Found during #44 (workstream C, challenged by @architect).

Lenguaje dominante
TypeScript
Estrellas
8
Forks
1
Merge medio
5 min
PR fusionados (30 d)
2

Preparar el entorno

Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de 0xPolygon/codegenie

Todos los issues de 0xPolygon/codegenie

Issues similares

Más issues de TypeScript

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.