Validating WebQuestion finetuned generator on MMLU
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Idoneità per principianti
- 15/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Da chiarire
- Stato di attività
- Ferma
- Stack tecnologico
- python
- Ambito
- machine-learning, testing-qa
Direzione di ricerca
The issue body names no files, tests, entry points, evaluation procedure, or acceptance criteria. Start by inspecting the repository's RAG fine-tuning and evaluation entry points, then determine how the WebQuestion-finetuned generator should be evaluated on MMLU. Done should include a documented validation result and reproducible evaluation coverage.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Questa issue non ha una descrizione.
- Lingua principale
- Python
- Stelle
- 150
- Fork
- 29
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Ha un modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di VectorInstitute/fed-rag
-
multimodal
Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100
VectorInstitute/fed-rag#496 ·
-
multimodal
Difficoltà 5/5 Più di una settimana Idoneità per principianti 15/100
VectorInstitute/fed-rag#495 ·
-
multimodal
Difficoltà 5/5 Più di una settimana Idoneità per principianti 20/100
VectorInstitute/fed-rag#494 ·
-
[Feature] Expand `BaseKnowledgeStore` to accept multi-modal inputs when retrieving.Forse già presa @Izukimat l’ha presa 466 giorni fa. Apertamultimodal
VectorInstitute/fed-rag#493 · 1 assegnatario ·
-
[Feature] Add HFMultiModalRetrieverForse di nuovo libera @nerdai l’ha presa 466 giorni fa e non c’è nessuna pull request aperta. Apertaenhancement multimodal p0
VectorInstitute/fed-rag#492 · 1 assegnatario ·
Tutte le issue di VectorInstitute/fed-rag
Issue simili
-
backlog
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 91/100
EchoTools/nevr-runtime#1108 ·
I maintainer di solito rispondono entro 1 giorno
-
parse names a key after a top-level multi() threshold Bitcoin Core v31.1 refuses as not validAperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
btclib-org/btclib-wallet#587 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
I maintainer di solito rispondono entro 1 giorno
-
documentation
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
Judgment-Pack/judgment-pack-spec#275 ·
I maintainer di solito rispondono entro 1 giorno