Issue with Sparse MLP
还没有人认领这个 Issue。
评估
- 难度
- 3/5
- 预计耗时
- 1-2 天
- 新手友好度
- 35/100
- Issue 类型
- 缺陷
- 描述清晰度
- 需要澄清
- 活跃度
- 停滞
- 技术栈
- python
调研方向
从 megablocks/layers/arguments.py 中的 post_init 开始，报告的失败会在这里检查 Triton 版本并引发 Sparse MLP 错误。使用 Triton 3.2.0 或更高版本复现该问题，然后确定 Sparse MLP 是否应在该版本下工作；当报告的失败得到解决，或明确确定了受支持的配置时，即视为完成。
由索引模型根据 Issue 内容生成。
描述
still not fixed:
/usr/local/lib/python3.11/dist-packages/megablocks/layers/arguments.py in post_init(self)
80 import triton
81 if triton.version >= '3.2.0':
---> 82 raise ValueError(
83 'Sparse MLP is not supported with triton >=3.2.0. Please use mlp_impl="grouped" instead.',
84 )
ValueError: Sparse MLP is not supported with triton >=3.2.0. Please use mlp_impl="grouped" instead.
- 主要语言
- Python
- 星标
- 1.6k
- 派生
- 228
- PR 合并指标
- 30 天内没有已合并 PR
环境准备
- 提供 Dockerfile 或 Docker Compose 文件
- 有 Pull Request 模板
- 阅读贡献指南
从这里开始
- 先读完整个 Issue，再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库，在一个分支上完成修改。
- 提交 Pull Request，并在描述里引用这个 Issue 编号。
相似的 Issue
-
难度 2/5 1-3 小时 新手友好度 82/100
Nixtla/mlforecast#823 ·
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 68/100
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 65/100
microsoft/ML-For-Beginners#1061 ·
-
bot-found documentation priority: P3
难度 2/5 1 小时以内 新手友好度 82/100
madenvel/KalinkaPlayer#503 ·
-
难度 2/5 1-3 小时 新手友好度 63/100
EleutherAI/lm-evaluation-harness#4508 ·
维护者通常 1 天内回复