Diffing an FP8 pack against its own FP8 upstream exits 2 with an opaque error
Ninguém assumiu esta issue ainda.
Avaliação
- Dificuldade
- 2/5
- Tempo estimado
- 1-3 horas
- Facilidade para iniciantes
- 76/100
- Tipo de issue
- Bug
- Clareza
- Claramente especificada
- Status de atividade
- Ativa
- Domínio
- machine-learning
Direção de pesquisa
Leia o caminho de comparação do candidato e do upstream, incluindo o wrapper DecodedBase mencionado na issue. Verifique como o upstream é decodificado e onde torch.equal compara os tensores; os pesos FP8 do candidato devem seguir o mesmo caminho de decodificação, com os tensores .scale tratados de forma consistente. O trabalho estará concluído quando comparar o próprio layout FP8 do candidato com seu upstream decodificado não causar mais o erro de promoção nem indicar que seus tensores de escala estão ausentes.
Escrita pelo modelo de indexação a partir do texto da issue.
Descrição
From the review of https://github.com/STRML/quantdiff/pull/1 (P2). A candidate in DeepSeek's own layout (raw FP8 weight + .scale) is compared raw against the decoded float32 upstream: torch.equal raises "Promotion for Float8 Types is not supported" and the run exits 2, and the candidate's .scale tensors show up as not in upstream. The candidate side should decode with the same DecodedBase wrapper as the upstream.
- Linguagem predominante
- Python
- Estrelas
- 0
- Forks
- 0
- Merge médio
- 5min
- PRs com merge (30d)
- 3
Preparar o ambiente
Este projeto não oferece contêiner de desenvolvimento, Dockerfile nem guia de contribuição, então a configuração fica por sua conta: comece pelo README e veja nosso guia da primeira contribuição para os passos gerais.
Primeiros passos
- Leia a issue inteira e depois o guia de contribuição do projeto.
- Comente na issue dizendo que vai assumir — evita que duas pessoas façam o mesmo trabalho.
- Faça um fork do repositório e trabalhe em uma branch.
- Abra um pull request que referencie o número da issue.
Mais de STRML/quantdiff
-
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 75/100
-
Dificuldade 3/5 1-2 dias Facilidade para iniciantes 54/100
-
Dificuldade 4/5 3-5 dias Facilidade para iniciantes 44/100
-
Stacked experts: fetch only the sampled expert slices, count decoded bytes in the prefetch budgetAberta
Dificuldade 4/5 1-2 dias Facilidade para iniciantes 48/100
-
Dificuldade 3/5 1-2 dias Facilidade para iniciantes 58/100
Todas as issues de STRML/quantdiff
Issues semelhantes
-
enhancement
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 78/100
glossyio/traffic-monitor#264 ·
Mantenedores costumam responder em até 1 dia
-
Add self-hostAberta
Dificuldade 1/5 Menos de uma hora Facilidade para iniciantes 75/100
Atarity/deploy-your-own-saas#102 ·
-
[Bug]: RDFlex silently drops the covariate adjustment when the outcome or treatment column is integer-typedTalvez já em andamento @vrjdev assumiu hoje. Aberta
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 78/100
DoubleML/doubleml-for-py#424 ·
Mantenedores costumam responder em até 1 dia
-
agentic-dmx docs enhancement
Dificuldade 1/5 1-3 horas Facilidade para iniciantes 86/100
-
Dificuldade 1/5 Menos de uma hora Facilidade para iniciantes 72/100
521xueweihan/HelloGitHub#4150 ·