Add sample code to measure latency on TextEmbeddingModel
Mantenedores costumam responder em até 1 dia
Ninguém assumiu esta issue ainda.
Avaliação
- Dificuldade
- 3/5
- Tempo estimado
- Meio dia
- Facilidade para iniciantes
- 35/100
- Tipo de issue
- Funcionalidade
- Clareza
- Razoavelmente clara
- Status de atividade
- Estagnada
- Stack de tecnologia
- python
- Domínio
- machine-learning
Direção de pesquisa
Nenhum arquivo ou teste é especificado. Comece localizando as amostras existentes de TextEmbeddingModel no repositório e siga seus pontos de entrada e convenções. Está concluído quando uma nova amostra envia o texto fornecido N vezes, mede cada solicitação e reporta as latências dos percentis 50, 95 e 99.
Escrita pelo modelo de indexação a partir do texto da issue.
Descrição
Thanks for stopping by to let us know something could be better!
PLEASE READ: If you have a support contract with Google, please create an issue in the support console instead of filing on GitHub. This will ensure a timely response.
The issue you're having must be related to a file in this repository. We are unable to provide assistance for issues unrelated to samples in this repository.
Please include as much information as possible:
Is your feature request related to a problem? Please describe.
Customer is looking for an authoritative way to properly measure the latency on a given model of TextEmbeddingModel
Describe the solution you'd like.
I would like to contribute by adding a new file with a code to send a given text N times, measure the time on each request and grouping them in percentiles 50, 95 and 99.
Describe alternatives you've considered.
I have not thought on any other alternative.
Additional context.
This is useful for those early adapters who want to make sure and confirm that this is indeed a reliable solution for the enterprise.
Making sure to follow these steps will guarantee the quickest resolution possible.
Thanks!
- Linguagem predominante
- Jupyter Notebook
- Estrelas
- 8.1k
- Forks
- 6.7k
- Merge médio
- 4d 4h
- PRs com merge (30d)
- 8
Preparar o ambiente
Primeiros passos
- Leia a issue inteira e depois o guia de contribuição do projeto.
- Comente na issue dizendo que vai assumir — evita que duas pessoas façam o mesmo trabalho.
- Faça um fork do repositório e trabalhe em uma branch.
- Abra um pull request que referencie o número da issue.
Mais de GoogleCloudPlatform/python-docs-samples
-
samples
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 88/100
GoogleCloudPlatform/python-docs-samples#14609 ·
Mantenedores costumam responder em até 1 dia
-
samples
Dificuldade 1/5 Menos de uma hora Facilidade para iniciantes 92/100
GoogleCloudPlatform/python-docs-samples#14610 ·
Mantenedores costumam responder em até 1 dia
-
samples
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 88/100
GoogleCloudPlatform/python-docs-samples#14611 ·
Mantenedores costumam responder em até 1 dia
-
chore(generative_ai) Update model references for generative_ai samplesTalvez livre de novo @XrossFox assumiu há 152 dias e não há nenhum pull request aberto. Abertasamples
GoogleCloudPlatform/python-docs-samples#14117 · 1 responsável ·
Mantenedores costumam responder em até 1 dia
-
Fix Pipeline dependency issues for geospatial-classification/serving_appTalvez livre de novo @XrossFox assumiu há 164 dias e não há nenhum pull request aberto. Abertasamples
GoogleCloudPlatform/python-docs-samples#14091 · 1 responsável ·
Mantenedores costumam responder em até 1 dia
Todas as issues de GoogleCloudPlatform/python-docs-samples
Issues semelhantes
-
Dificuldade 2/5 Meio dia Facilidade para iniciantes 88/100
deepset-ai/haystack#12978 ·
Mantenedores costumam responder em até 1 dia
-
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 76/100
openvinotoolkit/openvino_notebooks#3663 ·
Mantenedores costumam responder em até 1 dia
-
Bug in GaussianTailProbabilityCalibrator: running_statistics=False still uses a windowed varianceAbertabug good first issue
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 88/100
selimfirat/pysad#107 ·
Mantenedores costumam responder em até 1 dia
-
bug ci-failure high priority
Dificuldade 1/5 Menos de uma hora Facilidade para iniciantes 88/100
vllm-project/vllm-omni#8194 · 1 comentário ·
Mantenedores costumam responder em até 1 dia
-
bug
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 88/100
sktime/sktime#11310 · 1 comentário ·
Mantenedores costumam responder em até 1 dia