Generate predictions for responses with non-numeric human scores
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Aptitud para principiantes
- 35/100
- Tipo de issue
- Nueva funcionalidad
- Claridad
- Bastante claro
- Estado de actividad
- Estancado
- Stack tecnológico
- python, scikit-learn
- Área
- machine-learning
Línea de trabajo
Empieza leyendo el punto de entrada existente de RSMPredict y el flujo del archivo de entrenamiento para entender cómo se entrenan actualmente los modelos y cómo se generan las predicciones. Define una única ruta train-then-predict para las puntuaciones humanas no numéricas, utilizando una confusion-matrix como comprobación relevante de finalización y conservando la limitación indicada en torno a la mayoría de las evaluaciones.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
[by @aoifecahill ] It would be nice if it was possible to automatically generate predictions for data that has non-numeric human scores. Obviously these predictions can't be used in most of the evaluations, but they could be useful in a confusion matrix for example.
I know RSMPredict does predictions, but that's not quite what I was looking for. It would be nice if there was just one tool that trained a model using the training file and then ran RSMPredict on the test file. I don't think anything like that already exists? I don't really care much about the evaluation (though the confusion matrix would be interesting), rather just would like the convenience of being able to do train+predict in one step rather than multiple with hacks (since I don't know of a way to just train a model without having a fake test file for rsmtool?)
This is a nice-to-have issue.
- Lenguaje dominante
- Python
- Estrellas
- 71
- Forks
- 21
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Guía de contribución
No hay ninguna guía de contribución indexada para este repositorio
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de EducationalTestingService/rsmtool
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100
EducationalTestingService/rsmtool#689 · 5 comentarios ·
-
enhancement
Dificultad 4/5 3-5 días Aptitud para principiantes 35/100
-
EducationalTestingService/rsmtool#557 · 1 asignado ·
-
enhancement
Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100
-
good first issue help wanted
Dificultad 4/5 3-5 días Aptitud para principiantes 30/100
Todos los issues de EducationalTestingService/rsmtool
Issues similares
-
bug confirmed issue
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
open-webui/open-webui#30750 · 1 comentario ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
-
enhancement
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
OpenwaterHealth/openmotion-bloodflow-app#604 · 1 comentario ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 70/100
-
good first issue
Dificultad 1/5 Menos de una hora Aptitud para principiantes 90/100