feat: add auto into --runtime or alike to auto select best suitable runtime
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 3/5
- Tempo stimato
- 1-2 giorni
- Idoneità per principianti
- 45/100
Direzione di ricerca
Inizia leggendo il lavoro sulla selezione del runtime in PR #1015 e la gestione esistente di --runtime. Definisci il comportamento della selezione automatica per un file .ort rispetto a una cartella contenente genai_config.json, inclusa l'inferenza in stile transformer che continua a usare ort; il lavoro è completo quando questi casi selezionano il runtime appropriato.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
It is easy to tell from ort (an onnx file) and ort-genai (a folder with genai_config.json)
As a follow up of https://github.com/microsoft/winml-cli/pull/1015
Folder itself is not enough if we support transformer style inference, it is still using ort not ort-genai
- Lingua principale
- Python
- Stelle
- 40
- Fork
- 11
- Merge medio
- 1g 2h
- PR unite (30g)
- 59
Guida per i contributori
Apri la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di microsoft/winml-cli
-
bug P1
Difficoltà 2/5 1-3 ore Idoneità per principianti 70/100
-
bug P1 triaged
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
-
P2 refactor triaged
Difficoltà 2/5 1-3 ore Idoneità per principianti 84/100
-
bug P1
Difficoltà 4/5 3-5 giorni Idoneità per principianti 45/100
-
bug P1
Difficoltà 3/5 1-2 giorni Idoneità per principianti 65/100
Tutte le issue di microsoft/winml-cli
Issue simili
-
agent-ready documentation needs-triage
Difficoltà 1/5 1-3 ore Idoneità per principianti 88/100
-
documentation
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 91/100
-
workflow-status page template still says reusable workflows are "triggered only by workflow_call:" Aperta
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 92/100
-
instance instance add
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 72/100
searxng/searx-instances#939 · 1 commento ·
-
area-deployment area-integrations triage:bot-seen
Difficoltà 2/5 Mezza giornata Idoneità per principianti 86/100