pytorch/serve

how does `default_response_timeout` work?

Open

#2 452 ouverte le 8 juil. 2023

Voir sur GitHub
 (6 commentaires) (0 réactions) (0 assignés)Java (3 844 stars) (790 forks)batch import
documentationgood first issuetriaged

Description

📚 The doc issue

I set the value of default_response_timeout to 4 i.e. 4 seconds. At the start of the model load, this happens after 4 (ish) seconds:

org.pytorch.serve.wlm.WorkerInitializationException: Backend worker did not respond in given time

My guess is because the model takes a while to load (more than 4 seconds), the worker gets killed. Is there a way to set a larger initial delay i.e. differentiate these two scenarios:

  • account for the initial model load with a number different from default_response_timeout
  • if model doesn't response in default_response_timeout after the initial load, then kill the worker

Suggest a potential alternative/fix

No response

Guide contributeur

Stack technique
pythonpytorchjava
Domaine
documentationbackend
Type d'issue
documentation
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
2
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 hours
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
stale
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
clear
Prérequis
PyTorch Serveconfiguration
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
80
Direction de recherche
Examine the issue comments for any maintainer suggestions or workarounds. Look at the PyTorch Serve source code, particularly the worker initialization files (e.g., `wlm.py` for Python backend or relevant Java classes) to understand how `default response timeout` is currently implemented. Propose adding a separate configuration parameter like `initial load timeout` to differentiate between model loading and subsequent timeouts. Update the documentation to clarify this behavior.