Add support for int4 datatype for afcuda

未关闭

#3,492 创建于 2023年8月28日 0 条评论 0 个 reaction 已指派 0 人在 GitHub 查看

还没有人认领这个 Issue。

评估

难度: 5/5
预计耗时: 一周以上
新手友好度: 35/100

Issue 类型: 功能
描述清晰度: 基本清楚
活跃度: 停滞
技术栈: cpp
领域: hpc

调研方向

首先定位 afcuda 中用于创建数据类型和 matmul 的入口点。在确定所需的表示形式和支持的路径之前，先查看链接的 CUDA 向量类型对齐要求和 quantized matmul 论文。完成的标准是：int4 可以为 afcuda 创建并在 matmul 中使用，并且涵盖受支持的行为。

由索引模型根据 Issue 内容生成。

描述

feature

Add support for int4 datatype at least for afcuda creation and matmul.

Description

What problem are you trying to solve? quantized matmul
(Optional) API of new function: no new api, just a new dtype
(Optional) Algorithms that could be used to implement this feature: no need for algorithm atm
(Optional)Are there other libraries that implement this feature?
https://docs.nvidia.com/cuda/cuda-c-programming-guide/index.html#vector-types-alignment-requirements-in-device-code
https://arxiv.org/abs/2212.09720

224754869-690b0aa8-2cb2-4e74-b2e1-1d93d5c06ede

主要语言: C++
星标: 4.9k
派生: 555
平均合并: 1 小时 24 分钟
30 天内合并 PR: 1

贡献指南

打开贡献指南

从这里开始

先读完整个 Issue，再读项目的贡献指南。
在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
Fork 仓库，在一个分支上完成修改。
提交 Pull Request，并在描述里引用这个 Issue 编号。

arrayfire/arrayfire 的其他 Issue

[BUG] Windows: getErrorMessage() reads uninitialized pointer when FormatMessage fails 未关闭

bug

难度 2/5 1-3 小时新手友好度 74/100

arrayfire/arrayfire#3714 · 1 个 reaction · 2026年8月3日创建
[BUG] Unified backend: af_get_last_error calls unresolved symbol without null check 未关闭

bug

难度 2/5 1-3 小时新手友好度 72/100

arrayfire/arrayfire#3713 · 2026年8月3日创建
[BUG] af_device_info: CUDA backend writes 257 bytes into buffers documented as 64 未关闭

bug

难度 2/5 1-3 小时新手友好度 76/100

arrayfire/arrayfire#3712 · 1 个 reaction · 2026年8月3日创建
[BUG] CUDA: concurrent af::convolve calls from multiple host threads silently compute with the wrong filter 未关闭

bug

难度 4/5 3-5 天新手友好度 45/100

arrayfire/arrayfire#3711 · 2026年7月13日创建
[Question]Graphics/Forge window support for oneAPI backend (Intel Arc) 未关闭

难度 5/5 一周以上新手友好度 25/100

arrayfire/arrayfire#3707 · 2026年5月27日创建

查看 arrayfire/arrayfire 的全部 Issue

相似的 Issue

[CI] Nightly Clang build broken: structured binding captured in a lambda in FileDataSource.cpp 未关闭

bug build

难度 1/5 1 小时以内新手友好度 91/100

facebookincubator/velox#19194 · 2026年9月24日创建
JIT-compiled number -> Decimal conversion silently overflows instead of raising DECIMAL_OVERFLOW 未关闭

fuzz

难度 2/5 1-3 小时新手友好度 82/100

ClickHouse/ClickHouse#122114 · 2026年9月24日创建
Vulkan handle arena size is not configurable from CMake (OpenGL and Metal are) 未关闭

难度 2/5 1-3 小时新手友好度 84/100

google/filament#10473 · 2026年9月24日创建
macOS source upgrades cannot detect the existing agent installation 未关闭

module/agent platform/macos type/bug/regression

难度 2/5 1-3 小时新手友好度 88/100

wazuh/wazuh#39623 · 2026年9月24日创建
[PyCDE] TypeAlias should forward field lookup to the aliased type 未关闭

enhancement PyCDE

难度 2/5 1-3 小时新手友好度 78/100

llvm/circt#11173 · 2026年9月24日创建

更多 C++ Issue

精选适合新手参与的 GitHub issue 摘要。