JUST-OS ideas

Aperta
#787 4 commenti 0 reazioni 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 1 giorno

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
5/5
Tempo stimato
Più di una settimana
Idoneità per principianti
35/100
Tipo di issue
Funzionalità
Chiarezza
Da chiarire
Stato di attività
Tranquilla

Direzione di ricerca

La issue combina quattro direzioni separate: recupero top-k adattivo, confronto con un modello moderno da 8B, confronto con la pipeline OpenScholar e un benchmark di esperti curato. Inizia individuando i punti di ingresso per il recupero e la valutazione di JUST-OS, quindi scegli una direzione e definisci i relativi input del benchmark e criteri di successo. Il lavoro sarà considerato completato con un esperimento o un'implementazione circoscritti e risultati documentati.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

  • Make top-k adaptive: over-retrieve, rerank, then apply a relative cutoff (keep within X% of the top score) bounded by a min and max k. - so that targeted questions don't get junk in, and broad questions get sufficient coverage
  • Benchmark against a more modern 8B model, given that we don't use the full OpenScholar pipeline (e.g. Gemma 4 E4B, which scores 'highest' on AA Omniscience - i.e. low hallucinations)
  • Benchmark against the actual OpenScholar pipeline (generation-feedback-regeneration)
  • Curate our own benchmark, with expert-written OS answers (not sure how much of that exists already)
Lingua principale
HTML
Stelle
42
Fork
33
Merge medio
17h 18m
PR unite (30g)
111

Preparare l'ambiente

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di forrtproject/forrtproject.github.io

Tutte le issue di forrtproject/forrtproject.github.io

Issue simili

Altre issue su Machine Learning

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.