Support sm100 and sm120 in CUDA pre‑built wheels

未关闭
#2,341 0 条评论 1 个 reaction 已指派 0 人 在 GitHub 查看

维护者通常 1 天内回复

还没有人认领这个 Issue。

评估

难度
3/5
预计耗时
1-2 天
新手友好度
65/100
Issue 类型
功能
描述清晰度
描述清楚
活跃度
冷清
技术栈
python
领域
build-system

调研方向

查看 CUDA wheels 的构建配置,可能位于 setup.py、pyproject.toml 或类似 .github/workflows/build.yml 的 CI 脚本中。找到 ARCHS 的定义位置,并将 '100' 和 '120' 添加到列表中。通过在本地构建 wheel 或检查 CI 日志进行测试,确保新架构已包含在构建矩阵中。

由索引模型根据 Issue 内容生成。

描述

CUDA : ARCHS = 750,800,860,890,900

The current pre‑built CUDA wheels only support up to sm90. Please extend the build to include sm100 and sm120 so users with newer GPUs (B200 and RTX 50 series) can install directly via pip without compiling from source. Thank you!

主要语言
Python
星标
10.7k
派生
1.5k
平均合并
1 小时 40 分钟
30 天内合并 PR
5

环境准备

  • 没有 Dockerfile 或 Docker Compose 文件
  • 没有 Pull Request 模板
  • 阅读贡献指南

从这里开始

  1. 先读完整个 Issue,再读项目的贡献指南。
  2. 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
  3. Fork 仓库,在一个分支上完成修改。
  4. 提交 Pull Request,并在描述里引用这个 Issue 编号。

abetlen/llama-cpp-python 的其他 Issue

查看 abetlen/llama-cpp-python 的全部 Issue

相似的 Issue

更多 Python Issue

把新 issue 发到你的邮箱

精选适合新手参与的 GitHub issue 摘要。