vespa-engine/vespa

Support a properties-file (available during runtime) for ml-models (Stateless evaluation in container)

Ouverte

#9 552 ouverte le 24 mai 2019

Voir sur GitHubGuide contributeur
 (0 commentaire) (0 réaction) (0 personne assignée)Java (561 forks)batch import
enhancementgood first issue

Métriques du dépôt

Stars
 (4 948 étoiles)
Métriques de merge PR
 (Merge moyen 1j 22h) (209 PRs mergées en 30 j)

Description

Hello Vespa Team, Can you please consider support a properties-file which is available during run-time along with the model ? So some meta-data e.g. threshold/label, etc can be associated with the model. This is for the stateless evaluation of the models like (XGBoost, TensorFlow, Onnx, etc) which is supported in vespa.

Thank you, Pinank

Guide contributeur

Direction de recherche
La demande concerne l'ajout d'un fichier de propriétés pour les modèles ML (XGBoost, TensorFlow, ONNX) lors de l'évaluation stateless. Comme cette issue date de 2019 et n'a aucun commentaire, l'intention du demandeur est d'associer des métadonnées comme des seuils/étiquettes aux modèles. Pour implémenter cela, il faut étudier l'infrastructure de service de modèles de Vespa, en particulier comment les modèles sont empaquetés et évalués dans les conteneurs (par exemple, en utilisant l'API d'évaluation de modèles). Le défi principal est de définir un format pour le fichier de propriétés et de l'intégrer au processus de chargement des modèles. La solution impliquera probablement des modifications de la configuration des modèles et du pipeline d'évaluation.
Stack technique
java
Domaine
backend
Type d'issue
Fonctionnalité
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
Une demi journée
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Récente
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
JavaVespa development setup
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
70