Generate predictions for responses with non-numeric human scores
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 4/5
- Tempo stimato
- 3-5 giorni
- Idoneità per principianti
- 35/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Abbastanza chiara
- Stato di attività
- Ferma
- Stack tecnologico
- python, scikit-learn
- Ambito
- machine-learning
Direzione di ricerca
Inizia leggendo l’entry point esistente di RSMPredict e il flusso del file di training per capire come vengono attualmente addestrati i modelli e generate le predizioni. Definisci un unico percorso train-then-predict per i punteggi umani non numerici, usando una confusion-matrix come verifica rilevante del completamento e mantenendo la limitazione dichiarata relativa alla maggior parte delle valutazioni.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
[by @aoifecahill ] It would be nice if it was possible to automatically generate predictions for data that has non-numeric human scores. Obviously these predictions can't be used in most of the evaluations, but they could be useful in a confusion matrix for example.
I know RSMPredict does predictions, but that's not quite what I was looking for. It would be nice if there was just one tool that trained a model using the training file and then ran RSMPredict on the test file. I don't think anything like that already exists? I don't really care much about the evaluation (though the confusion matrix would be interesting), rather just would like the convenience of being able to do train+predict in one step rather than multiple with hacks (since I don't know of a way to just train a model without having a fake test file for rsmtool?)
This is a nice-to-have issue.
- Lingua principale
- Python
- Stelle
- 71
- Fork
- 21
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Guida per i contributori
Nessuna guida per i contributori indicizzata per questo repository
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di EducationalTestingService/rsmtool
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
EducationalTestingService/rsmtool#689 · 5 commenti ·
-
enhancement
Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100
-
EducationalTestingService/rsmtool#557 · 1 assegnatario ·
-
enhancement
Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100
-
good first issue help wanted
Difficoltà 4/5 3-5 giorni Idoneità per principianti 30/100
Tutte le issue di EducationalTestingService/rsmtool
Issue simili
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
anthropics/skills#1811 · 1 commento ·
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
speaches-ai/speaches#678 ·
-
bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
datalayer/mcp-compose#42 ·
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
conda-forge/spacy-feedstock#177 ·
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 70/100
UKGovernmentBEIS/inspect_evals#2523 ·