EleutherAI/pythia

Las issues en las que quizá ya trabaja alguien aparecen al final. Ordenar todo por fecha

• Hub checkpoints of pythia-2.8b, 1b-deduped and 1.4b-deduped served the final model from April 2023 to February 2026; repair incomplete

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 4/5 3-5 días Aptitud para principiantes 48/100

  EleutherAI/pythia#207 · Abierto el 8/10/2026

• pythia-12b: step50000 and step58000 serve the final checkpoint's first shard (embed_in + early layers)

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 4/5 3-5 días Aptitud para principiantes 35/100

  EleutherAI/pythia#206 · Abierto el 14/8/2026

• pythia-2.8b: 86 of 154 step branches (incl. step0 and the entire early grid) serve final-era checkpoint content

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100

  EleutherAI/pythia#205 · Abierto el 14/8/2026

• pythia-160m-weight-seed{1,2} step>=1 checkpoints appear inconsistent with their own step0 initialization

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 4/5 3-5 días Aptitud para principiantes 35/100

  EleutherAI/pythia#203 · 1 comentario · Abierto el 21/7/2026

• Three missing checkpoints: pythia-410m-seed9@step40000, pythia-410m-seed6@step88000, pythia-410m-seed2@step111000

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 4/5 3-5 días Aptitud para principiantes 35/100

  EleutherAI/pythia#202 · Abierto el 17/7/2026

• question on overfitting

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

  EleutherAI/pythia#201 · Abierto el 16/7/2026

• Same weights between steps 0 and 2

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 4/5 3-5 días Aptitud para principiantes 35/100

  EleutherAI/pythia#198 · Abierto el 18/5/2026

• Pythia-2.8B PT CheckPoints is same between steps 0 to steps 6300

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 4/5 3-5 días Aptitud para principiantes 45/100

  EleutherAI/pythia#195 · 3 comentarios · 3 reacciones · Abierto el 6/3/2026

• How does one obtain the loss for each model, size and checkpoint in the table in the main paper?

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 3/5 1-2 días Aptitud para principiantes 30/100

  EleutherAI/pythia#194 · Abierto el 9/12/2025

• using madgraph to study processes at the EP collider with Pythia8 and Delphes enabled

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 5/5 Más de una semana Aptitud para principiantes 20/100

  EleutherAI/pythia#192 · Abierto el 26/9/2025

• seed2 shuffle_idx.npy corrupted

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 3/5 1-2 días Aptitud para principiantes 55/100

  EleutherAI/pythia#190 · 1 comentario · 1 reacción · Abierto el 24/7/2025

• Shard hashes for `EleutherAI/pile-deduped-pythia-preshuffled`

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 3/5 1-2 días Aptitud para principiantes 25/100

  EleutherAI/pythia#183 · Abierto el 12/3/2025

• `torch.concat` is supported when reproducing results with docker

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 1/5 Menos de una hora Aptitud para principiantes 48/100

  EleutherAI/pythia#178 · 2 reacciones · Abierto el 20/10/2024

• Pythia 160M is giving unreasonable logit values

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 4/5 3-5 días Aptitud para principiantes 38/100

  EleutherAI/pythia#177 · 2 comentarios · Abierto el 14/10/2024

• No EOD Tokens in EleutherAI/pile-deduped-pythia-preshuffled

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 5/5 Más de una semana Aptitud para principiantes 30/100

  EleutherAI/pythia#175 · 2 comentarios · 1 reacción · Abierto el 4/10/2024

• Questions regarding the WSC evaluation results

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 2/5 Medio día Aptitud para principiantes 35/100

  EleutherAI/pythia#172 · Abierto el 20/9/2024

• How to use the Huggingface dataset /EleutherAI/pythia-memorized-evals in predictable-memorization?

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 3/5 1-2 días Aptitud para principiantes 20/100

  EleutherAI/pythia#164 · Abierto el 6/6/2024

• Convert to GGUF

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 3/5 1-2 días Aptitud para principiantes 30/100

  EleutherAI/pythia#159 · 1 comentario · Abierto el 10/5/2024

• instruct-tuned pythia

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 5/5 Más de una semana Aptitud para principiantes 20/100

  EleutherAI/pythia#155 · 1 reacción · Abierto el 20/3/2024

• Provide the shuffled index_mapping npy files for ease of reproducing training data

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 4/5 3-5 días Aptitud para principiantes 28/100

  EleutherAI/pythia#153 · 1 comentario · 3 reacciones · Abierto el 14/3/2024

• Optimizer states in HF format

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 5/5 Más de una semana Aptitud para principiantes 20/100

  EleutherAI/pythia#152 · 1 comentario · Abierto el 7/3/2024

• Weird inconsistency in Tokenizer vocabulary

  Quizá libre de nuevo @haileyschoelkopf la tomó hace 954 días y no hay ningún pull request abierto. Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  EleutherAI/pythia#151 · 1 comentario · 1 asignado · Abierto el 4/3/2024

• Wrong files in eval?

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 2/5 1-3 horas Aptitud para principiantes 42/100

  EleutherAI/pythia#139 · Abierto el 28/11/2023

• Reading data is slowly！

  Abierto

  ⋯Informar de un problema con este issue

  • ¿Algo no está bien?

  • Ya está asignado
  • No es para principiantes
  • Obsoleto o no válido
  • Otra cosa…
  • Enviar Cancelar

  Dificultad 4/5 3-5 días Aptitud para principiantes 25/100

  EleutherAI/pythia#126 · 1 comentario · Abierto el 2/11/2023