containers/ramalama

Implement whisper.cpp

Open

#51 aperta il 21 ago 2024

Vedi su GitHub
 (40 commenti) (1 reazione) (1 assegnatario)Python (341 fork)github user discovery
enhancementgood first issue

Metriche repository

Star
 (2873 star)
Metriche merge PR
 (Metriche PR in attesa)

Descrizione

If there is a way to auto-detect between language model files and asr model files. We should do that, or if that's not possible we should just use a runtime flag, so some options for the runtime flag would be:

ramalama --runtime vllm
ramalama --runtime llama.cpp
ramalama --runtime whisper.cpp

Guida contributor

Direzione di ricerca
Esamina le implementazioni runtime esistenti (ad esempio, vllm, llama.cpp) per comprendere il pattern, quindi implementa il runtime whisper.cpp con flag runtime e rilevamento automatico opzionale.
Tech stack
pythoncpp
Dominio
backendaicli
Tipo issue
Funzionalità
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
Mezza giornata
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
PythonGit
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
70