containers/ramalama

Implement whisper.cpp

Aberta

#51 aberto em 21 de ago. de 2024

Ver no GitHubGuia do colaborador
 (40 comentários) (1 reação) (1 responsável)Python (356 forks)github user discovery
enhancementgood first issue

Métricas do repositório

Stars
 (3.010 estrelas)
Métricas de merge de PR
 (Mesclagem média 6d 7h) (32 fundiu PRs em 30d)

Description

If there is a way to auto-detect between language model files and asr model files. We should do that, or if that's not possible we should just use a runtime flag, so some options for the runtime flag would be:

ramalama --runtime vllm
ramalama --runtime llama.cpp
ramalama --runtime whisper.cpp

Guia do colaborador

Direção de pesquisa
Examine as implementações de runtime existentes (por exemplo, vllm, llama.cpp) para entender o padrão, depois implemente o runtime whisper.cpp com flag de runtime e detecção automática opcional.
Pilha de tecnologia
pythoncpp
Domain
backendaicli
Tipo Issue
Funcionalidade
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
Meio dia
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
PythonGit
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
70