Cannot use spark_event_logs_s3_uri in PySparkProcessor job

オープン 初心者向け
#6,253 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

まだ誰も着手していません。

評価

難易度
2/5
見積もり時間
1〜3時間
初心者へのやさしさ
78/100
issue の種類
バグ
明瞭さ
明確に書かれている
活発さ
活発
技術スタック
python, spark

調査の方向性

sagemaker-core/src/sagemaker/core/spark/processing.py の PySparkProcessor イベントログ用の ProcessingOutput 構築部分から始めます。有効な spark_event_logs_s3_uri を使って失敗を再現し、現在の ProcessingOutput インターフェースを確認します。Spark イベントログを設定した状態で PySparkProcessor ジョブが正常に開始すれば完了です。

索引モデルが issue の本文から書いたものです。

説明

PySDK Version

  • PySDK V2 (2.x)
  • PySDK V3 (3.x)

Describe the bug

Similar to #6252 - PySparkProcessor run no longer handles spark_event_logs_s3_uri due to changes in the ProcessingOutput interface - e.g. regression introduced in 3203e49

To reproduce

Provide any (valid) S3 URI for the spark log location.

Expected behavior

Successfully starts the job.

Screenshots or logs

ValidationError: 4 validation errors for ProcessingOutput
output_name
  Field required [type=missing, input_value={'source': '/opt/ml/proce...oad_mode': 'Continuous'}, input_type=dict]
    For further information visit https://errors.pydantic.dev/2.13/v/missing
source
  Extra inputs are not permitted [type=extra_forbidden, input_value='/opt/ml/processing/spark-events/', input_type=str]
    For further information visit https://errors.pydantic.dev/2.13/v/extra_forbidden
destination
  Extra inputs are not permitted [type=extra_forbidden, input_value='s3://...', input_type=str]
    For further information visit https://errors.pydantic.dev/2.13/v/extra_forbidden
s3_upload_mode
  Extra inputs are not permitted [type=extra_forbidden, input_value='Continuous', input_type=str]
    For further information visit https://errors.pydantic.dev/2.13/v/extra_forbidden

The cause of the error is here:

            output = ProcessingOutput(
                source=_SparkProcessorBase._spark_event_log_default_local_path,
                destination=spark_event_logs_s3_uri,
                s3_upload_mode="Continuous",
            )

System information

  • AWS SageMaker Studio 4.4.3
  • sagemaker-core: 2.20
  • Python 3.12.14
  • uname: Linux default 6.12.103-127.188.amzn2023.x86_64 SMP PREEMPT_DYNAMIC Tue Aug 25 15:42:53 UTC 2026 x86_64 x86_64 x86_64 GNU/Linux
主要言語
Python
スター
2.3k
フォーク
1.3k
平均マージ
3日 9時間
マージ済み PR(30日)
42

コントリビューションガイド

コントリビューションガイドを開く

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

aws/sagemaker-python-sdk のほかの issue

aws/sagemaker-python-sdk の issue をすべて見る

似ている issue

Python の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。