containers/ramalama

Implement whisper.cpp

开放

#51 创建于 2024年8月21日

 (40 条评论) (1 个反应) (1 位负责人)Python (356 个派生)github user discovery
enhancementgood first issue

仓库指标

星标
 (3,010 个星标)
PR 合并指标
 (平均合并 6天 7小时) (30 天内合并 32 个 PR)

描述

If there is a way to auto-detect between language model files and asr model files. We should do that, or if that's not possible we should just use a runtime flag, so some options for the runtime flag would be:

ramalama --runtime vllm
ramalama --runtime llama.cpp
ramalama --runtime whisper.cpp

贡献者指南