vespa-engine/vespa

Support a properties-file (available during runtime) for ml-models (Stateless evaluation in container)

Aperta

#9552 aperta il 24 mag 2019

Vedi su GitHubGuida contributor
 (0 commenti) (0 reazioni) (0 assegnatari)Java (561 fork)batch import
enhancementgood first issue

Metriche repository

Star
 (4948 stelle)
Metriche merge PR
 (Merge medio 1g 22h) (209 PR mergiate in 30 g)

Descrizione

Hello Vespa Team, Can you please consider support a properties-file which is available during run-time along with the model ? So some meta-data e.g. threshold/label, etc can be associated with the model. This is for the stateless evaluation of the models like (XGBoost, TensorFlow, Onnx, etc) which is supported in vespa.

Thank you, Pinank

Guida contributor

Direzione di ricerca
La richiesta prevede l'aggiunta di un file di proprietà per i modelli ML (XGBoost, TensorFlow, ONNX) durante la valutazione stateless. Poiché la segnalazione risale al 2019 e non ha commenti, l'intento del richiedente è associare metadati come soglie/etichette ai modelli. Per implementarla, è necessario studiare l'infrastruttura di servizio dei modelli di Vespa, in particolare come i modelli vengono impacchettati e valutati nei container (ad esempio, utilizzando l'API di valutazione del modello). La sfida principale è definire un formato per il file di proprietà e integrarlo nel processo di caricamento del modello. La soluzione probabilmente richiederà modifiche alla configurazione del modello e alla pipeline di valutazione.
Tech stack
java
Dominio
backend
Tipo issue
Funzionalità
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
Mezza giornata
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Nuova
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
JavaVespa development setup
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
70