Failed review runs pass negative evals
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Aptitud para principiantes
- 48/100
- Tipo de issue
- Error
- Claridad
- Bastante claro
- Estado de actividad
- Activo
- Stack tecnológico
- typescript
- Área
- testing-qa
Línea de trabajo
Read src/evals/eval-runner.ts at lines 487 and 576, src/evals/eval-scoring.ts at line 69, and src/cli/main.ts at line 50; compare how live evals handle failed run health with the CLI. The probe described in the issue uses a failed run.json outcome, exit code 1, and zero findings. Preserve retained findings and report failed samples separately; the aggregate policy for mixed valid and failed draws still needs a decision.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Problem: Both live eval paths ignore review health. A well-formed zero-finding negative eval with run.json outcome failed and exit code 1 scores as pass. Preserve retained findings and report the failed sample separately; aggregate policy for mixed valid and failed draws needs a decision.
File:line: src/evals/eval-runner.ts:487,576; src/evals/eval-scoring.ts:69; src/cli/main.ts:50.
Evidence: Probe with failed run health and zero findings; CLI honors failed health.
Suggested fix size: S.
Found during #44 (workstream C, challenged by @architect).
- Lenguaje dominante
- TypeScript
- Estrellas
- 8
- Forks
- 1
- Merge medio
- 5 min
- PR fusionados (30 d)
- 2
Preparar el entorno
Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de 0xPolygon/codegenie
-
bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
-
bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
-
bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
-
bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
-
bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
Todos los issues de 0xPolygon/codegenie
Issues similares
-
community first-timers-only good first issue hacktoberfest help wanted low hanging fruit up-for-grabs
Dificultad 1/5 Menos de una hora Aptitud para principiantes 78/100
lingdojo/kana-dojo#34344 · 1 comentario · 5 reacciones ·
Los mantenedores suelen responder en 1 día
-
documentation good first issue
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
Los mantenedores suelen responder en 1 día
-
bug priority:low
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
Konfirm-xyz/konfirm-frontend#369 ·
Los mantenedores suelen responder en 1 día