Add sample code to measure latency on TextEmbeddingModel
维护者通常 1 天内回复
还没有人认领这个 Issue。
评估
- 难度
- 3/5
- 预计耗时
- 半天
- 新手友好度
- 35/100
- Issue 类型
- 功能
- 描述清晰度
- 基本清楚
- 活跃度
- 停滞
- 技术栈
- python
调研方向
未指定文件或测试。首先在 repository 中查找现有的 TextEmbeddingModel 示例，并遵循它们的入口点和约定。当新示例发送给定文本 N 次、测量每个请求并报告第 50、95 和 99 百分位延迟时，即视为完成。
由索引模型根据 Issue 内容生成。
描述
Thanks for stopping by to let us know something could be better!
PLEASE READ: If you have a support contract with Google, please create an issue in the support console instead of filing on GitHub. This will ensure a timely response.
The issue you're having must be related to a file in this repository. We are unable to provide assistance for issues unrelated to samples in this repository.
Please include as much information as possible:
Is your feature request related to a problem? Please describe.
Customer is looking for an authoritative way to properly measure the latency on a given model of TextEmbeddingModel
Describe the solution you'd like.
I would like to contribute by adding a new file with a code to send a given text N times, measure the time on each request and grouping them in percentiles 50, 95 and 99.
Describe alternatives you've considered.
I have not thought on any other alternative.
Additional context.
This is useful for those early adapters who want to make sure and confirm that this is indeed a reliable solution for the enterprise.
Making sure to follow these steps will guarantee the quickest resolution possible.
Thanks!
- 主要语言
- Jupyter Notebook
- 星标
- 8.1k
- 派生
- 6.7k
- 平均合并
- 4 天 4 小时
- 30 天内合并 PR
- 8
环境准备
从这里开始
- 先读完整个 Issue，再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库，在一个分支上完成修改。
- 提交 Pull Request，并在描述里引用这个 Issue 编号。
GoogleCloudPlatform/python-docs-samples 的其他 Issue
-
samples
难度 2/5 1-3 小时 新手友好度 88/100
GoogleCloudPlatform/python-docs-samples#14609 ·
维护者通常 1 天内回复
-
samples
难度 1/5 1 小时以内 新手友好度 92/100
GoogleCloudPlatform/python-docs-samples#14610 ·
维护者通常 1 天内回复
-
samples
难度 2/5 1-3 小时 新手友好度 88/100
GoogleCloudPlatform/python-docs-samples#14611 ·
维护者通常 1 天内回复
-
chore(generative_ai) Update model references for generative_ai samples可能重新可做 @XrossFox 于 153 天前认领，目前没有进行中的 PR。 未关闭samples
GoogleCloudPlatform/python-docs-samples#14117 · 已指派 1 人 ·
维护者通常 1 天内回复
-
Fix Pipeline dependency issues for geospatial-classification/serving_app可能重新可做 @XrossFox 于 165 天前认领，目前没有进行中的 PR。 未关闭samples
GoogleCloudPlatform/python-docs-samples#14091 · 已指派 1 人 ·
维护者通常 1 天内回复
查看 GoogleCloudPlatform/python-docs-samples 的全部 Issue
相似的 Issue
-
难度 2/5 1-3 小时 新手友好度 88/100
huggingface/diffusers#14888 ·
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 82/100
维护者通常 1 天内回复
-
bug bug_feature_triaged max
难度 2/5 1-3 小时 新手友好度 78/100
维护者通常 1 天内回复
-
bug documentation good first issue
难度 2/5 1-3 小时 新手友好度 88/100
Farama-Foundation/PettingZoo#1467 · 1 条评论 ·
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 85/100