AVX-512 instructions enable denser packing and more efficient lookups.
还没有人认领这个 Issue。
评估
- 难度
- 4/5
- 预计耗时
- 3-5 天
- 新手友好度
- 35/100
- Issue 类型
- 功能
- 描述清晰度
- 需要澄清
- 活跃度
- 冷清
- 技术栈
- cpp
- 领域
- performance
调研方向
首先查看 src/ternary_mm_avx512.cpp 中链接的实现，并将其五激活查找方法与相应的 BitNet 代码进行比较。确定预期的集成点，并确定能够证明所报告加速效果的基准测试或验证方式；该 issue 没有指定定义完成标准的 BitNet 文件或测试。
由索引模型根据 Issue 内容生成。
描述
I have an implementation put together here: https://github.com/tommyyliu/lut_mm/blob/master/src/ternary_mm_avx512.cpp
The table has all the dot products with 5 activations instead of just 3. This means that each lookup handles 5 instead of 3, and you can see pretty substantial speedup.
- 主要语言
- C++
- 星标
- 40.4k
- 派生
- 3.7k
- PR 合并指标
- 30 天内没有已合并 PR
环境准备
这个项目没有提供开发容器、Dockerfile 或贡献指南，环境需要你自己搭建：先看它的 README，通用步骤见我们的新手贡献指南。
从这里开始
- 先读完整个 Issue，再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库，在一个分支上完成修改。
- 提交 Pull Request，并在描述里引用这个 Issue 编号。
microsoft/BitNet 的其他 Issue
-
难度 2/5 1-3 小时 新手友好度 86/100
-
i2_s SIGSEGVs at n_ubatch >= 32: BLAS backend dequantises by a row stride 4x the real packed row未关闭
难度 2/5 1-3 小时 新手友好度 76/100
-
难度 2/5 1-3 小时 新手友好度 86/100
-
Warning: `huggingface-cli` is deprecated and no longer works. Use `hf` instead.可能已有人在做 @ousamabenyounes 于 55 天前认领。 未关闭
难度 1/5 1 小时以内 新手友好度 92/100
-
难度 2/5 1-3 小时 新手友好度 76/100
相似的 Issue
-
难度 2/5 1-3 小时 新手友好度 88/100
MerginMaps/mobile#4741 ·
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 85/100
Icinga/icinga2#11077 · 1 条评论 ·
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 66/100
-
agent:WSL bug linux LOW ui
难度 1/5 1 小时以内 新手友好度 78/100
维护者通常 1 天内回复
-
Copter: PosHold brake-entry threshold became 16 deg instead of 0.16 deg after the radians conversion可能已有人在做 关联的 PR 仍在进行中或已合并。 未关闭
难度 1/5 1 小时以内 新手友好度 78/100
ArduPilot/ardupilot#34617 · 1 条评论 · 1 个 reaction ·
维护者通常 1 天内回复