[QUESTION] Emulator: to which precision is this consider correct ?
还没有人认领这个 Issue。
评估
调研方向
Start by locating test_all_reduce in the emulator test suite and the all-reduce implementation it exercises; run it to reproduce the mismatch at roughly seven digits. Check whether the test asserts exact equality or an explicit floating-point tolerance, and compare with similar emulator tests. Done means the expected precision/tolerance is documented and the test either uses a justified tolerance or the mismatch is explained.
由索引模型根据 Issue 内容生成。
描述
Hi, I was running the test_all_reduce which fails because the tensors are not similar enough after around 7 digits. Is this an expected behavior ? or do we want exact matching value ?
torch.set_printoptions(precision=10)
ground_truth[torch_rank]
tensor([ 2.1518430710, -3.1110968590, -3.0482885838, -0.1535055935,
0.5451227427, 0.6111478806, -0.0351422131, -0.0474908650,
-1.0834826231, 0.4075058699], device='cuda:0')
data_list[torch_rank]
tensor([ 2.1518430710, -3.1110968590, -3.0482888222, -0.1535055935,
0.5451227427, 0.6111478806, -0.0351421833, -0.0474908650,
-1.0834826231, 0.4075058401], device='cuda:0')
- 主要语言
- Python
- 星标
- 1k
- 派生
- 65
- 平均合并
- 21 小时 34 分钟
- 30 天内合并 PR
- 1
环境准备
- 提供 Dockerfile 或 Docker Compose 文件
- 没有 Pull Request 模板
- 阅读贡献指南
从这里开始
- 先读完整个 Issue,再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库,在一个分支上完成修改。
- 提交 Pull Request,并在描述里引用这个 Issue 编号。
volcengine/veScale 的其他 Issue
-
难度 1/5 1 小时以内 新手友好度 12/100
volcengine/veScale#75 ·
-
难度 5/5 一周以上 新手友好度 10/100
volcengine/veScale#73 · 1 条评论 · 3 个 reaction ·
-
难度 5/5 一周以上 新手友好度 8/100
volcengine/veScale#72 · 5 个 reaction ·
-
难度 5/5 一周以上 新手友好度 8/100
volcengine/veScale#65 ·
-
难度 3/5 1-2 天 新手友好度 12/100
volcengine/veScale#63 ·
查看 volcengine/veScale 的全部 Issue
相似的 Issue
-
bug
难度 2/5 1-3 小时 新手友好度 78/100
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 66/100
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 75/100
docling-project/docling-pipelines#669 ·
维护者通常 1 天内回复
-
blocked kind/enhancement
难度 2/5 1-3 小时 新手友好度 78/100
opendatahub-io/agent-eval-harness#329 · 2 条评论 · 1 个 reaction ·
-
cc_wrapper crashes with ValueError on Windows when a path is on another drive可能已有人在做 @TrapsterDK 今天认领。 未关闭
难度 2/5 1-3 小时 新手友好度 79/100
tweag/rules_haskell#2492 ·
维护者通常 1 天内回复