JUST-OS ideas

Abierto
#787 4 comentarios 0 reacciones 0 asignados Ver en GitHub

Los mantenedores suelen responder en 1 día

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
5/5
Tiempo estimado
Más de una semana
Aptitud para principiantes
35/100
Tipo de issue
Nueva funcionalidad
Claridad
Necesita aclaración
Estado de actividad
Tranquilo

Línea de trabajo

El issue combina cuatro líneas de trabajo independientes: recuperación adaptativa top-k, comparación con un modelo moderno de 8B, comparación con el pipeline de OpenScholar y un benchmark experto curado. Empieza localizando los puntos de entrada de recuperación y evaluación de JUST-OS; después, elige una línea y define sus entradas del benchmark y criterios de éxito. Se considerará terminado un experimento o una implementación acotados con resultados documentados.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

  • Make top-k adaptive: over-retrieve, rerank, then apply a relative cutoff (keep within X% of the top score) bounded by a min and max k. - so that targeted questions don't get junk in, and broad questions get sufficient coverage
  • Benchmark against a more modern 8B model, given that we don't use the full OpenScholar pipeline (e.g. Gemma 4 E4B, which scores 'highest' on AA Omniscience - i.e. low hallucinations)
  • Benchmark against the actual OpenScholar pipeline (generation-feedback-regeneration)
  • Curate our own benchmark, with expert-written OS answers (not sure how much of that exists already)
Lenguaje dominante
HTML
Estrellas
42
Forks
33
Merge medio
17 h 18 min
PR fusionados (30 d)
111

Preparar el entorno

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de forrtproject/forrtproject.github.io

Todos los issues de forrtproject/forrtproject.github.io

Issues similares

Más issues de Machine Learning

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.