pytorch/serve

Handle invalid input intelligently ！

Open

#2.459 aberto em 12 de jul. de 2023

Ver no GitHub
 (7 comments) (0 reactions) (0 assignees)Java (3.844 stars) (790 forks)batch import
debugginggood first issuetriaged

Description

🚀 The feature

Given a custom service that expects JSON as input, If the input is invalid JSON such as { "image": "I missed a quote} it will return { "code": 500, "type": "InternalServerException", "message": "Worker died." } and reload model. Is something can do to verify the accuracy of input to avoid such direct returns and model reload when it cannot be modified input?

Motivation, pitch

Is something can do to verify the accuracy of input to avoid such direct returns and model reload when it cannot be modified input?

Alternatives

No response

Additional context

No response

Guia do colaborador

Pilha de tecnologia
pythonjavarest api
Domain
backendapimachine learning
Tipo Issue
feature
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-3 hours
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
fresh
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
mostly clear
Prerequisites
Familiarity with PyTorch ServeBasic understanding of JSON parsing
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
65
Direção de pesquisa
Investigate the input validation pipeline in PyTorch Serve. Look at the request handler code in `frontend/server/src/main/java/org/pytorch/serve/http/InferenceRequestHandler.java` and the worker process in `backend/python/worker.py`. The issue suggests adding pre validation of JSON input before passing to the model worker. Consider implementing a JSON schema validation step in the frontend to catch invalid JSON early and return a 400 error instead of a 500. Check if there are existing input validation utilities in the codebase that can be leveraged or extended.