Add sample code to measure latency on TextEmbeddingModel
メンテナーはふだん 1 日以内に返信
まだ誰も着手していません。
評価
- 難易度
- 3/5
- 見積もり時間
- 半日
- 初心者へのやさしさ
- 35/100
- issue の種類
- 機能追加
- 明瞭さ
- おおむね明確
- 活発さ
- 停滞
- 技術スタック
- python
調査の方向性
ファイルもテストも指定されていません。まずリポジトリ内にある既存の TextEmbeddingModel のサンプルを探し、そのエントリポイントと規約に従ってください。新しいサンプルが指定されたテキストを N 回送信し、各リクエストを測定して、50、95、99 パーセンタイルのレイテンシを報告すれば完了です。
索引モデルが issue の本文から書いたものです。
説明
Thanks for stopping by to let us know something could be better!
PLEASE READ: If you have a support contract with Google, please create an issue in the support console instead of filing on GitHub. This will ensure a timely response.
The issue you're having must be related to a file in this repository. We are unable to provide assistance for issues unrelated to samples in this repository.
Please include as much information as possible:
Is your feature request related to a problem? Please describe.
Customer is looking for an authoritative way to properly measure the latency on a given model of TextEmbeddingModel
Describe the solution you'd like.
I would like to contribute by adding a new file with a code to send a given text N times, measure the time on each request and grouping them in percentiles 50, 95 and 99.
Describe alternatives you've considered.
I have not thought on any other alternative.
Additional context.
This is useful for those early adapters who want to make sure and confirm that this is indeed a reliable solution for the enterprise.
Making sure to follow these steps will guarantee the quickest resolution possible.
Thanks!
- 主要言語
- Jupyter Notebook
- スター
- 8.1k
- フォーク
- 6.7k
- 平均マージ
- 4日 4時間
- マージ済み PR（30日）
- 8
環境構築
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
GoogleCloudPlatform/python-docs-samples のほかの issue
-
samples
難易度 2/5 1〜3時間 初心者へのやさしさ 88/100
GoogleCloudPlatform/python-docs-samples#14609 ·
メンテナーはふだん 1 日以内に返信
-
samples
難易度 1/5 1時間未満 初心者へのやさしさ 92/100
GoogleCloudPlatform/python-docs-samples#14610 ·
メンテナーはふだん 1 日以内に返信
-
samples
難易度 2/5 1〜3時間 初心者へのやさしさ 88/100
GoogleCloudPlatform/python-docs-samples#14611 ·
メンテナーはふだん 1 日以内に返信
-
chore(generative_ai) Update model references for generative_ai samples再び着手できるかも @XrossFox が 153 日前に担当しましたが、オープン中のプルリクエストはありません。 オープンsamples
GoogleCloudPlatform/python-docs-samples#14117 · 担当者 1 名 ·
メンテナーはふだん 1 日以内に返信
-
Fix Pipeline dependency issues for geospatial-classification/serving_app再び着手できるかも @XrossFox が 165 日前に担当しましたが、オープン中のプルリクエストはありません。 オープンsamples
GoogleCloudPlatform/python-docs-samples#14091 · 担当者 1 名 ·
メンテナーはふだん 1 日以内に返信
GoogleCloudPlatform/python-docs-samples の issue をすべて見る
似ている issue
-
難易度 2/5 1〜3時間 初心者へのやさしさ 88/100
huggingface/diffusers#14888 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
メンテナーはふだん 1 日以内に返信
-
bug bug_feature_triaged max
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
メンテナーはふだん 1 日以内に返信
-
bug documentation good first issue
難易度 2/5 1〜3時間 初心者へのやさしさ 88/100
Farama-Foundation/PettingZoo#1467 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 85/100