CharXiv reasoning selects instructions from question source instead of answer type (766/1000 validation prompts)

Aperta Adatta ai principianti
  • Qualcosa non va?
#27 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
2/5
Tempo stimato
Mezza giornata
Idoneità per principianti
62/100
Tipo di issue
Bug
Chiarezza
Specificata chiaramente
Stato di attività
Attiva
Stack tecnologico
python
Ambito
machine-learning

Direzione di ricerca

Il bug si trova nella ricerca dei campi in lmms_eval_tasks/charxiv/utils.py, dove charxiv_reasoning_doc_to_text_cot sceglie l'istruzione da reasoning_q_source invece che da reasoning_a_type. Inizia riproducendo il documento di esempio della segnalazione, poi passa la selezione a reasoning_a_type. È completato quando tutti e quattro i tipi di risposta selezionano l'istruzione corrispondente, compresi i casi di numeri interi e decimali della categoria 4, e i test di regressione li coprono. Verifica la modifica upstream collegata in lmms-eval prima di decidere come gestire i punteggi storici.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

Summary

CharXiv reasoning uses reasoning_q_source to select the answer instruction, but that field records who wrote the question, not its answer type. In the public Hugging Face dataset, reasoning_a_type already corresponds to official CharXiv's inst_category.

Verified at 08d755b973e4ad990ac5cdd64fb992c804d840db: the field lookup.

Reproduction

From the repository's evaluation environment:

from lmms_eval_tasks.charxiv.utils import charxiv_reasoning_doc_to_text_cot

doc = {
    "figure_path": "images/2.jpg",
    "reasoning_q": "What is the name of the line that is the furthest away from its fi value from the W_H axis?",
    "reasoning_a": "lambda_L = 0.13",
    "reasoning_a_type": 1,  # text in chart
    "reasoning_q_source": 3,  # human-written
}
print(charxiv_reasoning_doc_to_text_cot(doc))

Actual instruction: Your final answer must be grounded to a number ...

Expected instruction: Your final answer must be grounded to some text ..., using answer type 1.

Evidence and impact

  • The official record for figure 2 has inst_category=1, qa_source=3. The official prompt builder selects by inst_category.
  • On all 1,000 public validation records at HF revision f441eb632fc62f6f777830a0f47619e6e86459b0, reasoning_a_type agrees with official inst_category on 1,000/1,000; question source agrees on only 234/1,000. Executing this repository's prompt-builder definitions and constants gives 766 changed prompts when selecting the actual answer type.
  • All 229 number-in-general questions have answer type 4, but source only takes values 1–3, so the current lookup never selects their integer/decimal-precision instruction.

Suggested correction: inst_category = doc["reasoning_a_type"]. Cover all four answer types, including integer and decimal category-4 answers, with regression tests. Historical scores would need to identify which prompt convention was used.

This report concerns prompt selection; the reward function reads reasoning_a separately. Verification here was offline source/data comparison, without model inference or judge calls in LongVT. The same prompt-selection defect is addressed upstream in lmms-eval #1583.

Lingua principale
Python
Stelle
272
Fork
17
Nessuna PR unita negli ultimi 30g

Preparare l'ambiente

Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di EvolvingLMMs-Lab/LongVT

Tutte le issue di EvolvingLMMs-Lab/LongVT

Issue simili

Altre issue su Python

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.