Inconsistent CLI parameters to specify resources requests and limits across training and inference
まだ誰も着手していません。
評価
調査の方向性
training リソースのパラメーターを custom-endpoint の resources-requests パラメーターおよび resources-limits パラメーターと比較し、続いて EFA と Neuron のデバイス要件について issue 306 を確認します。デバイスの処理を含め、training と inference にわたって一貫した CLI アプローチを定義し、両方のコマンドパスが同じリソース概念を公開していることを検証します。
索引モデルが issue の本文から書いたものです。
説明
For training, the CLI parameters are:
--accelerators INTEGER Number of accelerators (GPUs/TPUs)
--vcpu TEXT Number of vCPUs
--memory TEXT Amount of memory in GiB
--accelerators-limit INTEGER Limit for the number of accelerators (GPUs/TPUs)
--vcpu-limit TEXT Limit for the number of vCPUs
--memory-limit TEXT Limit for the amount of memory in GiB
For inference (custom endpoints), the CLI parameters are:
--resources-requests JSON JSON object of resource requests, e.g. '{"cpu":"1","memory":"2Gi"}'
--resources-limits JSON JSON object of resource limits, e.g. '{"cpu":"2","memory":"4Gi"}'
Also, as mentioned in issue 306 (https://github.com/aws/sagemaker-hyperpod-cli/issues/306), the CLI should offer a consistent way to specify EFA (and Neuron) devices.
- 主要言語
- Python
- スター
- 41
- フォーク
- 95
- 平均マージ
- 1日 5時間
- マージ済み PR(30日)
- 4
環境構築
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートあり
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
aws/sagemaker-hyperpod-cli のほかの issue
-
hyp list cluster-stack lists all CloudFormation stacks, not just HyperPod-related ones対応中かも このイシューにリンクされたプルリクエストがオープン中、またはマージ済みです。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 62/100
aws/sagemaker-hyperpod-cli#348 ·
-
難易度 1/5 1時間未満 初心者へのやさしさ 68/100
aws/sagemaker-hyperpod-cli#314 ·
-
難易度 4/5 3〜5日 初心者へのやさしさ 52/100
aws/sagemaker-hyperpod-cli#431 ·
-
難易度 3/5 1〜2日 初心者へのやさしさ 55/100
aws/sagemaker-hyperpod-cli#384 ·
-
難易度 3/5 1〜2日 初心者へのやさしさ 45/100
aws/sagemaker-hyperpod-cli#353 ·
aws/sagemaker-hyperpod-cli の issue をすべて見る
似ている issue
-
[Bug]: `hermes plugins update` clones an entire monorepo twice - `subdir` is resolved but dropped at both catalog-update call sites対応中かも @HootRock が今日担当しました。 オープンcomp/cli P2 type/perf
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
NousResearch/hermes-agent#142417 · コメント 2 件 ·
メンテナーはふだん 1 日以内に返信
-
bug enhancement python
難易度 2/5 1〜3時間 初心者へのやさしさ 85/100
DewaldOosthuizen/tech-cheat-sheets-and-notes#392 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 70/100
メンテナーはふだん 1 日以内に返信
-
bug p2
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
メンテナーはふだん 1 日以内に返信
-
Restore postgresql_vm_test_charm actions.yaml change (removed in canonical/postgresql-operator#2054)オープン
難易度 1/5 1時間未満 初心者へのやさしさ 85/100
canonical/postgresql-single-kernel-library#390 · コメント 1 件 ·
メンテナーはふだん 2 日以内に返信