pytorch/serve

Handle invalid input intelligently ！

Open

#2459 aperta il 12 lug 2023

Vedi su GitHub
 (7 commenti) (0 reazioni) (0 assegnatari)Java (790 fork)batch import
debugginggood first issuetriaged

Metriche repository

Star
 (3844 star)
Metriche merge PR
 (Nessuna PR mergiata in 30 g)

Descrizione

🚀 The feature

Given a custom service that expects JSON as input, If the input is invalid JSON such as { "image": "I missed a quote} it will return { "code": 500, "type": "InternalServerException", "message": "Worker died." } and reload model. Is something can do to verify the accuracy of input to avoid such direct returns and model reload when it cannot be modified input?

Motivation, pitch

Is something can do to verify the accuracy of input to avoid such direct returns and model reload when it cannot be modified input?

Alternatives

No response

Additional context

No response

Guida contributor

Direzione di ricerca
Esamina la pipeline di gestione delle richieste nel codice del server per identificare dove aggiungere la validazione dell'input e studia come rifiutare correttamente JSON non valido senza causare il crash del worker.
Tech stack
javapythonrest api
Dominio
backendapiai
Tipo issue
Funzionalità
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
Mezza giornata
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Abbastanza chiara
Prerequisiti
PythonPyTorchJSON
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
50