JUST-OS ideas

Ouverte
#787 4 commentaires 0 réactions 0 personnes assignées Voir sur GitHub

Les mainteneurs répondent en général sous 1 jour

Personne n'a encore pris cette issue.

Évaluation

Difficulté
5/5
Temps estimé
Plus d'une semaine
Accessibilité débutants
35/100
Type d'issue
Fonctionnalité
Clarté
À clarifier
Activité
Calme

Piste de recherche

L’issue regroupe quatre axes distincts : la récupération top-k adaptative, la comparaison avec un modèle moderne de 8B, la comparaison avec le pipeline OpenScholar et un benchmark d’experts élaboré. Commencez par localiser les points d’entrée de récupération et d’évaluation de JUST-OS, puis choisissez un axe et définissez ses entrées de benchmark et ses critères de réussite. Le travail sera considéré comme terminé lorsqu’il consistera en une expérience ou une implémentation ciblée avec des résultats documentés.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Description

  • Make top-k adaptive: over-retrieve, rerank, then apply a relative cutoff (keep within X% of the top score) bounded by a min and max k. - so that targeted questions don't get junk in, and broad questions get sufficient coverage
  • Benchmark against a more modern 8B model, given that we don't use the full OpenScholar pipeline (e.g. Gemma 4 E4B, which scores 'highest' on AA Omniscience - i.e. low hallucinations)
  • Benchmark against the actual OpenScholar pipeline (generation-feedback-regeneration)
  • Curate our own benchmark, with expert-written OS answers (not sure how much of that exists already)
Langage dominant
HTML
Étoiles
42
Forks
33
Merge moyen
16 h 3 min
PR mergées (30 j)
121

Préparer son environnement

Par où commencer

  1. Lisez l'issue en entier, puis le guide de contribution du projet.
  2. Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
  3. Forkez le dépôt et travaillez sur une branche.
  4. Ouvrez une pull request qui référence le numéro de l'issue.

Autres issues de forrtproject/forrtproject.github.io

Toutes les issues de forrtproject/forrtproject.github.io

Issues similaires

Plus d'issues Machine Learning

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.