Add sample code to measure latency on TextEmbeddingModel
Los mantenedores suelen responder en 1 día
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 3/5
- Tiempo estimado
- Medio día
- Aptitud para principiantes
- 35/100
- Tipo de issue
- Nueva funcionalidad
- Claridad
- Bastante claro
- Estado de actividad
- Estancado
- Stack tecnológico
- python
- Área
- machine-learning
Línea de trabajo
No se especifica ningún archivo ni prueba. Empieza localizando los ejemplos existentes de TextEmbeddingModel en el repositorio y sigue sus puntos de entrada y convenciones. Se considera terminado cuando un ejemplo nuevo envía el texto dado N veces, mide cada solicitud e informa de las latencias de los percentiles 50, 95 y 99.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Thanks for stopping by to let us know something could be better!
PLEASE READ: If you have a support contract with Google, please create an issue in the support console instead of filing on GitHub. This will ensure a timely response.
The issue you're having must be related to a file in this repository. We are unable to provide assistance for issues unrelated to samples in this repository.
Please include as much information as possible:
Is your feature request related to a problem? Please describe.
Customer is looking for an authoritative way to properly measure the latency on a given model of TextEmbeddingModel
Describe the solution you'd like.
I would like to contribute by adding a new file with a code to send a given text N times, measure the time on each request and grouping them in percentiles 50, 95 and 99.
Describe alternatives you've considered.
I have not thought on any other alternative.
Additional context.
This is useful for those early adapters who want to make sure and confirm that this is indeed a reliable solution for the enterprise.
Making sure to follow these steps will guarantee the quickest resolution possible.
Thanks!
- Lenguaje dominante
- Jupyter Notebook
- Estrellas
- 8.1k
- Forks
- 6.7k
- Merge medio
- 4 d 4 h
- PR fusionados (30 d)
- 8
Preparar el entorno
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de GoogleCloudPlatform/python-docs-samples
-
samples
Dificultad 2/5 1-3 horas Aptitud para principiantes 88/100
GoogleCloudPlatform/python-docs-samples#14609 ·
Los mantenedores suelen responder en 1 día
-
samples
Dificultad 1/5 Menos de una hora Aptitud para principiantes 92/100
GoogleCloudPlatform/python-docs-samples#14610 ·
Los mantenedores suelen responder en 1 día
-
samples
Dificultad 2/5 1-3 horas Aptitud para principiantes 88/100
GoogleCloudPlatform/python-docs-samples#14611 ·
Los mantenedores suelen responder en 1 día
-
chore(generative_ai) Update model references for generative_ai samplesQuizá libre de nuevo @XrossFox la tomó hace 151 días y no hay ningún pull request abierto. Abiertosamples
GoogleCloudPlatform/python-docs-samples#14117 · 1 asignado ·
Los mantenedores suelen responder en 1 día
-
Fix Pipeline dependency issues for geospatial-classification/serving_appQuizá libre de nuevo @XrossFox la tomó hace 163 días y no hay ningún pull request abierto. Abiertosamples
GoogleCloudPlatform/python-docs-samples#14091 · 1 asignado ·
Los mantenedores suelen responder en 1 día
Todos los issues de GoogleCloudPlatform/python-docs-samples
Issues similares
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 90/100
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 88/100
vllm-project/vllm-metal#822 ·
Los mantenedores suelen responder en 1 día
-
CPU `∇maxpool` sends the gradient to a non-maximal element when another is within `≈` of the maxAbierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 85/100
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 84/100
stanfordnlp/dspy#10503 ·
Los mantenedores suelen responder en 1 día
-
bug_feature_triaged
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
Los mantenedores suelen responder en 1 día