[ENHANCEMENT]: Switch to cuda::memory_resource once it is available
维护者通常 2 天内回复
还没有人认领这个 Issue。
评估
- 难度
- 4/5
- 预计耗时
- 3-5 天
- 新手友好度
- 32/100
- Issue 类型
- 功能
- 描述清晰度
- 基本清楚
- 活跃度
- 停滞
- 技术栈
- cpp
- 领域
- performance
调研方向
首先定位 cuco::cuda_allocator 及其在 size() 和 insert() 实现中的使用位置。检查所引用的 libcu++ v2.0 cuda::memory_resource 功能是否可用，然后在保持中间存储行为和性能的前提下评估 allocator 切换。完成的标准是：在适当位置替换自定义 allocator，并且受影响的操作仍然正确。
由索引模型根据 Issue 内容生成。
描述
Is your feature request related to a problem? Please describe.
We currently roll our own default cuco::cuda_allocator, which internally calls cudaMalloc/cudaFree.
This approach doesn't leverage the concept of stream-ordered allocations, which might degrade performance for operations such as size() and insert(), where we allocate intermediate storage to retrieve the count.
Describe the solution you'd like
libcu++ v2.0 introduces a new cuda::memory_resource (design, initial PR, final PR).
We should use this facility instead.
Describe alternatives you've considered
No response
Additional context
No response
- 主要语言
- Cuda
- 星标
- 671
- 派生
- 122
- 平均合并
- 4 天 19 小时
- 30 天内合并 PR
- 10
环境准备
在浏览器里用你自己的 GitHub 账号启动这个项目的开发容器。
- 没有 Dockerfile 或 Docker Compose 文件
- 有 Pull Request 模板
- 阅读贡献指南
从这里开始
- 先读完整个 Issue，再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库，在一个分支上完成修改。
- 提交 Pull Request，并在描述里引用这个 Issue 编号。
NVIDIA/cuCollections 的其他 Issue
-
Add cuco::detail::stream_sync(cuda::stream_ref) to centralize CCCL version-specific API naming可能重新可做 @0z5a 于 25 天前认领，目前没有进行中的 PR。 未关闭
难度 2/5 1-3 小时 新手友好度 74/100
NVIDIA/cuCollections#840 · 1 条评论 ·
维护者通常 2 天内回复
-
nvidia-runners
难度 1/5 1-3 小时 新手友好度 25/100
NVIDIA/cuCollections#853 ·
维护者通常 2 天内回复
-
topic: performance type: feature request
难度 5/5 一周以上 新手友好度 35/100
NVIDIA/cuCollections#817 · 7 条评论 · 1 个 reaction ·
维护者通常 2 天内回复
-
good first issue P2: Nice to have type: improvement
难度 4/5 3-5 天 新手友好度 38/100
NVIDIA/cuCollections#805 · 4 条评论 ·
维护者通常 2 天内回复
-
[FEA] Add MPSC/MPMC concurrent queue可能重新可做 @sleeepyjack 于 264 天前认领，目前没有进行中的 PR。 未关闭type: feature request
NVIDIA/cuCollections#791 · 已指派 1 人 ·
维护者通常 2 天内回复
查看 NVIDIA/cuCollections 的全部 Issue
相似的 Issue
-
难度 1/5 1 小时以内 新手友好度 72/100
维护者通常 1 天内回复
-
type/automation type/performance
难度 2/5 1-3 小时 新手友好度 76/100
维护者通常 1 天内回复
-
Permissioned transactions fetch each entity once per tx-step, producing huge permission-check queries可能已有人在做 @verveguy 今天认领。 未关闭
难度 2/5 1-3 小时 新手友好度 74/100
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 76/100
yandex/perforator#124 ·
-
is_bf16_supported() picks emulated bf16 on T4 (sm75) GPU: VGGT-Omega loses memory-efficient SDPA and OOMs at 8 frames; fp16 runs 48可能已有人在做 @HashirNauman 今天认领。 未关闭
难度 2/5 1-3 小时 新手友好度 82/100