ggml-org/llama.cpp

Support CoreML like whisper.cpp?

Open

#1,714 创建于 2023年6月6日

在 GitHub 查看
 (11 评论) (17 反应) (0 负责人)C++ (18,202 fork)batch import
help wantedmacosperformance

仓库指标

Star
 (110,169 star)
PR 合并指标
 (平均合并 6天 8小时) (30 天内合并 389 个 PR)

描述

I have tried whisper.cpp on my iPhone and it runs very fast , so I wonder if it is possible that llama.cpp could support it. thank you .

贡献者指南

研究方向
研究 whisper.cpp 如何集成 CoreML 支持，特别是模型转换和推理流程。然后在 llama.cpp 中识别类似的组件，以复制该集成。
技术栈
无
领域
backendmobile
议题类型
功能
难度面向新贡献者的预计实现难度，1 表示很小改动，5 表示专家级工作。
3
预计时间有经验贡献者完成调查、实现、测试并准备 pull request 的粗略时间范围。
1-2 天
活动状态议题当前的可参与程度：新鲜、活跃、陈旧、阻塞或等待维护者输入。
活跃
清晰度议题是否清楚说明期望改动、验收标准和下一步。
清晰
前置要求
C++CoreMLwhisper.cpp
新手友好度1-100 的估计分数，表示该议题对首次贡献者的友好程度。
40