vespa-engine/vespa

Support a properties-file (available during runtime) for ml-models (Stateless evaluation in container)

Aberta

#9.552 aberto em 24 de mai. de 2019

Ver no GitHubGuia do colaborador
 (0 comentário) (0 reação) (0 responsável)Java (561 forks)batch import
enhancementgood first issue

Métricas do repositório

Stars
 (4.948 estrelas)
Métricas de merge de PR
 (Métricas PR pendentes)

Description

Hello Vespa Team, Can you please consider support a properties-file which is available during run-time along with the model ? So some meta-data e.g. threshold/label, etc can be associated with the model. This is for the stateless evaluation of the models like (XGBoost, TensorFlow, Onnx, etc) which is supported in vespa.

Thank you, Pinank

Guia do colaborador

Direção de pesquisa
A issue solicita a adição de um arquivo de propriedades para modelos de ML (XGBoost, TensorFlow, ONNX) durante a avaliação stateless. Como a issue é de 2019 e não tem comentários, a intenção do solicitante é associar metadados como limites/rótulos aos modelos. Para implementar, deve se investigar a infraestrutura de serviço de modelos do Vespa, especificamente como os modelos são empacotados e avaliados em contêineres (por exemplo, usando a API de avaliação de modelos). O principal desafio é definir um formato para o arquivo de propriedades e integrá lo ao processo de carregamento do modelo. A solução provavelmente envolverá modificações na configuração do modelo e no pipeline de avaliação.
Pilha de tecnologia
java
Domain
backend
Tipo Issue
Funcionalidade
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
Meio dia
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Recente
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
JavaVespa development setup
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
70