run fasterwhisper with ctranslate2 on aarch64
维护者通常 1 天内回复
还没有人认领这个 Issue。
评估
- 难度
- 4/5
- 预计耗时
- 3-5 天
- 新手友好度
- 30/100
- Issue 类型
- 缺陷
- 描述清晰度
- 需要澄清
- 活跃度
- 停滞
- 领域
- ai, machine-learning
调研方向
从 /app/transcriber_app.py 以及 traceback 中显示的 faster_whisper/transcribe.py 对 ctranslate2.models.Whisper 的调用开始。检查官方安装指南如何在 aarch64 上构建或安装 CTranslate2,以及是否预期支持 CUDA。当报告的配置能够在不出现 CUDA 支持错误的情况下初始化 WhisperModel 时,即表示完成。
由索引模型根据 Issue 内容生成。
描述
Traceback (most recent call last):
File "/app/transcriber_app.py", line 151, in <module>
api = create_app(cli_args)
File "/app/transcriber_app.py", line 70, in create_app
model = WhisperModel(
File "/usr/local/lib/python3.10/dist-packages/faster_whisper/transcribe.py", line 647, in __init__
self.model = ctranslate2.models.Whisper(
ValueError: This CTranslate2 package was not compiled with CUDA support
I have been following the official installation guide but still get this error all the time.
- 主要语言
- C++
- 星标
- 4.8k
- 派生
- 557
- 平均合并
- 1 天 6 小时
- 30 天内合并 PR
- 24
环境准备
- 没有 Dockerfile 或 Docker Compose 文件
- 没有 Pull Request 模板
- 阅读贡献指南
从这里开始
- 先读完整个 Issue,再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库,在一个分支上完成修改。
- 提交 Pull Request,并在描述里引用这个 Issue 编号。
OpenNMT/CTranslate2 的其他 Issue
-
MPS: GPT-2 produces NaN logits and invalid token IDs可能已有人在做 @TBO22 今天认领。 未关闭
难度 2/5 1-3 小时 新手友好度 70/100
OpenNMT/CTranslate2#2154 · 1 条评论 ·
维护者通常 1 天内回复
-
Allow no-timestamp Whisper decoding beyond 224 tokens可能已有人在做 @Emre-Akgul 于 127 天前认领。 未关闭
难度 2/5 1-3 小时 新手友好度 72/100
OpenNMT/CTranslate2#2074 ·
维护者通常 1 天内回复
-
T5Gemma fails on MPS: incorrect beam expansion with padded batches可能已有人在做 @TBO22 今天认领。 未关闭
难度 4/5 3-5 天 新手友好度 30/100
OpenNMT/CTranslate2#2153 · 1 条评论 ·
维护者通常 1 天内回复
-
难度 5/5 一周以上 新手友好度 8/100
OpenNMT/CTranslate2#2152 · 1 条评论 ·
维护者通常 1 天内回复
-
难度 3/5 1-2 天 新手友好度 55/100
OpenNMT/CTranslate2#2149 ·
维护者通常 1 天内回复
查看 OpenNMT/CTranslate2 的全部 Issue
相似的 Issue
-
Documentation: Fix parameter markup, legacy branch link, and phrasing in Detachable Joints and Model Command tutorials可能已有人在做 @patelshivani2283-lab 今天认领。 未关闭
难度 1/5 1-3 小时 新手友好度 88/100
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 68/100
维护者通常 1 天内回复
-
bug
难度 2/5 1-3 小时 新手友好度 82/100
-
难度 2/5 1-3 小时 新手友好度 75/100
Niko1221/Strata#6071 · 2 条评论 ·
维护者通常 4 天内回复
-
难度 2/5 1-3 小时 新手友好度 72/100
KhronosGroup/Vulkan-Tutorial#551 ·
维护者通常 1 天内回复