Cannot use spark_event_logs_s3_uri in PySparkProcessor job
まだ誰も着手していません。
評価
- 難易度
- 2/5
- 見積もり時間
- 1〜3時間
- 初心者へのやさしさ
- 78/100
- issue の種類
- バグ
- 明瞭さ
- 明確に書かれている
- 活発さ
- 活発
- 技術スタック
- python, spark
調査の方向性
sagemaker-core/src/sagemaker/core/spark/processing.py の PySparkProcessor イベントログ用の ProcessingOutput 構築部分から始めます。有効な spark_event_logs_s3_uri を使って失敗を再現し、現在の ProcessingOutput インターフェースを確認します。Spark イベントログを設定した状態で PySparkProcessor ジョブが正常に開始すれば完了です。
索引モデルが issue の本文から書いたものです。
説明
PySDK Version
- PySDK V2 (2.x)
- PySDK V3 (3.x)
Describe the bug
Similar to #6252 - PySparkProcessor run no longer handles spark_event_logs_s3_uri due to changes in the ProcessingOutput interface - e.g. regression introduced in 3203e49
To reproduce
Provide any (valid) S3 URI for the spark log location.
Expected behavior
Successfully starts the job.
Screenshots or logs
ValidationError: 4 validation errors for ProcessingOutput
output_name
Field required [type=missing, input_value={'source': '/opt/ml/proce...oad_mode': 'Continuous'}, input_type=dict]
For further information visit https://errors.pydantic.dev/2.13/v/missing
source
Extra inputs are not permitted [type=extra_forbidden, input_value='/opt/ml/processing/spark-events/', input_type=str]
For further information visit https://errors.pydantic.dev/2.13/v/extra_forbidden
destination
Extra inputs are not permitted [type=extra_forbidden, input_value='s3://...', input_type=str]
For further information visit https://errors.pydantic.dev/2.13/v/extra_forbidden
s3_upload_mode
Extra inputs are not permitted [type=extra_forbidden, input_value='Continuous', input_type=str]
For further information visit https://errors.pydantic.dev/2.13/v/extra_forbidden
The cause of the error is here:
output = ProcessingOutput(
source=_SparkProcessorBase._spark_event_log_default_local_path,
destination=spark_event_logs_s3_uri,
s3_upload_mode="Continuous",
)
System information
- AWS SageMaker Studio 4.4.3
- sagemaker-core: 2.20
- Python 3.12.14
- uname: Linux default 6.12.103-127.188.amzn2023.x86_64 SMP PREEMPT_DYNAMIC Tue Aug 25 15:42:53 UTC 2026 x86_64 x86_64 x86_64 GNU/Linux
- 主要言語
- Python
- スター
- 2.3k
- フォーク
- 1.3k
- 平均マージ
- 3日 9時間
- マージ済み PR(30日)
- 42
コントリビューションガイド
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
aws/sagemaker-python-sdk のほかの issue
-
難易度 2/5 1〜3時間 初心者へのやさしさ 86/100
aws/sagemaker-python-sdk#6278 ·
-
難易度 1/5 1時間未満 初心者へのやさしさ 93/100
aws/sagemaker-python-sdk#6232 ·
-
component: model monitor type: bug
難易度 1/5 1〜3時間 初心者へのやさしさ 88/100
aws/sagemaker-python-sdk#6206 ·
-
component: model builder type: bug
難易度 2/5 1〜3時間 初心者へのやさしさ 88/100
aws/sagemaker-python-sdk#6199 ·
-
component: jumpstart type: bug
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
aws/sagemaker-python-sdk#6191 ·
aws/sagemaker-python-sdk の issue をすべて見る
似ている issue
-
documentation help wanted
難易度 2/5 1〜3時間 初心者へのやさしさ 90/100
-
難易度 2/5 1〜3時間 初心者へのやさしさ 90/100
simonw/sqlite-utils#872 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 88/100
-
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
-
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100