JUST-OS ideas

Aberta
#787 4 comentários 0 reações 0 responsáveis Ver no GitHub

Mantenedores costumam responder em até 1 dia

Ninguém assumiu esta issue ainda.

Avaliação

Dificuldade
5/5
Tempo estimado
Mais de uma semana
Facilidade para iniciantes
35/100
Tipo de issue
Funcionalidade
Clareza
Precisa de esclarecimento
Status de atividade
Pouca atividade

Direção de pesquisa

A issue combina quatro direções distintas: recuperação adaptativa top-k, comparação com um modelo moderno de 8B, comparação com o pipeline OpenScholar e um benchmark de especialistas curado. Comece localizando os pontos de entrada de recuperação e avaliação do JUST-OS; em seguida, escolha uma direção e defina suas entradas de benchmark e critérios de sucesso. O trabalho estará concluído quando houver um experimento ou uma implementação com escopo definido e resultados documentados.

Escrita pelo modelo de indexação a partir do texto da issue.

Descrição

  • Make top-k adaptive: over-retrieve, rerank, then apply a relative cutoff (keep within X% of the top score) bounded by a min and max k. - so that targeted questions don't get junk in, and broad questions get sufficient coverage
  • Benchmark against a more modern 8B model, given that we don't use the full OpenScholar pipeline (e.g. Gemma 4 E4B, which scores 'highest' on AA Omniscience - i.e. low hallucinations)
  • Benchmark against the actual OpenScholar pipeline (generation-feedback-regeneration)
  • Curate our own benchmark, with expert-written OS answers (not sure how much of that exists already)
Linguagem predominante
HTML
Estrelas
42
Forks
33
Merge médio
16h 3min
PRs com merge (30d)
121

Preparar o ambiente

Primeiros passos

  1. Leia a issue inteira e depois o guia de contribuição do projeto.
  2. Comente na issue dizendo que vai assumir — evita que duas pessoas façam o mesmo trabalho.
  3. Faça um fork do repositório e trabalhe em uma branch.
  4. Abra um pull request que referencie o número da issue.

Mais de forrtproject/forrtproject.github.io

Todas as issues de forrtproject/forrtproject.github.io

Issues semelhantes

Mais issues de Machine Learning

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.