Run the suite 3× with a baseline arm: does DevReach beat plain Claude?
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 2/5
- Tiempo estimado
- 1-3 horas
- Aptitud para principiantes
- 45/100
- Tipo de issue
- Documentación
- Claridad
- Bien especificado
- Estado de actividad
- Activo
- Área
- ai-infra-agents, testing
Línea de trabajo
The issue gives a concrete command: claude plugin eval . --scaffold --runs 3 --judge-model sonnet -j 6. Run that, then python3 scripts/eval_summary.py. The summary output should be posted on the issue and added to evals/RESULTS.md. Done when the with/without comparison is recorded there.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Recorded runs so far use --ablation none and one run per case. We don't yet know how much the skills help compared to Claude with no plugin.
claude plugin eval . --scaffold --runs 3 --judge-model sonnet -j 6
python3 scripts/eval_summary.py
(This runs a with/without comparison; expect roughly $40–60 of usage.)
Post the summary here and add it to evals/RESULTS.md.
- Lenguaje dominante
- Python
- Estrellas
- 0
- Forks
- 1
- Merge medio
- 4 h 10 min
- PR fusionados (30 d)
- 1
Preparar el entorno
- Sin Dockerfile ni archivo de Docker Compose
- Tiene una plantilla de pull request
- Leer la guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de devanathsugavasi/devreach
-
help wanted tooling
Dificultad 2/5 Medio día Aptitud para principiantes 70/100
devanathsugavasi/devreach#10 ·
-
evals good first issue
Dificultad 2/5 1-3 horas Aptitud para principiantes 85/100
-
documentation good first issue
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
-
evals help wanted
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
-
bug evals good first issue
Dificultad 1/5 Menos de una hora Aptitud para principiantes 82/100
Todos los issues de devanathsugavasi/devreach
Issues similares
-
[Bug] Unit tests reach real Bedrock call paths without patching the modelPosiblemente ocupada @proton0210 la tomó hoy. Abiertobug
Dificultad 2/5 1-3 horas Aptitud para principiantes 67/100
aws-samples/sample-aws-genai-db-modernizer#1318 · 1 comentario ·
Los mantenedores suelen responder en 1 día
-
pyarrow-25.0.1-cp310-cp310-manylinux_2_28_x86_64.whl: 1 vulnerabilities (highest severity is: 5.3)AbiertoMend: dependency security vulnerability
Dificultad 2/5 1-3 horas Aptitud para principiantes 62/100
capitalone/locopy#394 ·
-
[Bug] Unhandled ValueError terminates watchdog thread when GISRC value contains multiple colonsAbiertobug
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
Los mantenedores suelen responder en 1 día
-
sdk-typescript: unquoted COPY globs in shell form are silently dropped from the image build contextAbiertobug javascript
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
Los mantenedores suelen responder en 1 día
-
enhancement
Dificultad 2/5 1-3 horas Aptitud para principiantes 65/100
ietf-tools/datatracker#11922 · 1 comentario ·
Los mantenedores suelen responder en 1 día