NoSuchMethodError when running with test data and test config
まだ誰も着手していません。
評価
- 難易度
- 3/5
- 見積もり時間
- 1〜2日
- 初心者へのやさしさ
- 38/100
- issue の種類
- バグ
- 明瞭さ
- おおむね明確
- 活発さ
- 停滞
- 技術スタック
- scala
調査の方向性
Start at ValidatorTable.scala:33, where createCountSelect is called during quickChecks, and compare the assembled artifact's dependencies with Spark 2.4.4 and Scala 2.11.12. Reproduce the failure using the supplied spark-submit command and local_validators.yaml. Done means the test-data run completes without the NoSuchMethodError.
索引モデルが issue の本文から書いたものです。
説明
$ spark-submit --master "local[*]" $(ls -t target/scala-2.11/data-validator-assembly-*.jar | head -n 1) --config local_validators.yaml --jsonReport target/testreport.json --htmlReport target/testreport.html
20/04/07 18:04:33 WARN NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
20/04/07 18:04:34 INFO Main$: Logging configured!
20/04/07 18:04:34 INFO Main$: Data Validator
20/04/07 18:04:34 INFO ConfigParser$: Parsing `local_validators.yaml`
20/04/07 18:04:34 INFO ConfigParser$: Attempting to load `local_validators.yaml` from file system
20/04/07 18:04:35 INFO ValidatorConfig: substituteVariables()
20/04/07 18:04:35 INFO Substitutable$class: Substituting filename var: ${WORKDIR}/test.json with `/Users/z003xc4/Source/OSS/target_data-validator/test.json`
20/04/07 18:04:35 INFO Main$: Checking Cli Outputs htmlReport: Some(target/testreport.html) jsonReport: Some(target/testreport.json)
20/04/07 18:04:35 INFO Main$: filename: Some(target/testreport.html) append: false
20/04/07 18:04:35 INFO Main$: CheckFile Some(target/testreport.html)
20/04/07 18:04:35 INFO Main$: Checking file 'target/testreport.html append: false failed: false
20/04/07 18:04:35 INFO Main$: filename: Some(target/testreport.json) append: true
20/04/07 18:04:35 INFO Main$: CheckFile Some(target/testreport.json)
20/04/07 18:04:35 INFO Main$: Checking file 'target/testreport.json append: true failed: false
20/04/07 18:04:35 INFO ValidatorOrcFile: Reading orc file: testData.orc
20/04/07 18:04:36 INFO Main$: Running sparkChecks
20/04/07 18:04:36 INFO ValidatorConfig: Running Quick Checks...
20/04/07 18:04:36 INFO ValidatorOrcFile: Reading orc file: testData.orc
Exception in thread "main" java.lang.NoSuchMethodError: org.apache.spark.sql.catalyst.expressions.Alias$.apply$default$4(Lorg/apache/spark/sql/catalyst/expressions/Expression;Ljava/lang/String;)Lscala/Option;
at com.target.data_validator.ValidatorTable.createCountSelect(ValidatorTable.scala:33)
at com.target.data_validator.ValidatorTable.quickChecks(ValidatorTable.scala:87)
at com.target.data_validator.ValidatorConfig$$anonfun$quickChecks$1.apply(ValidatorConfig.scala:51)
at com.target.data_validator.ValidatorConfig$$anonfun$quickChecks$1.apply(ValidatorConfig.scala:51)
at scala.collection.immutable.List.map(List.scala:284)
at com.target.data_validator.ValidatorConfig.quickChecks(ValidatorConfig.scala:51)
at com.target.data_validator.Main$.runSparkChecks(Main.scala:80)
at com.target.data_validator.Main$$anonfun$2.apply(Main.scala:106)
at com.target.data_validator.Main$$anonfun$2.apply(Main.scala:100)
at scala.Option.map(Option.scala:146)
at com.target.data_validator.Main$.runChecks(Main.scala:99)
at com.target.data_validator.Main$.loadConfigRun(Main.scala:27)
at com.target.data_validator.Main$.main(Main.scala:170)
at com.target.data_validator.Main.main(Main.scala)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:498)
at org.apache.spark.deploy.JavaMainApplication.start(SparkApplication.scala:52)
at org.apache.spark.deploy.SparkSubmit.org$apache$spark$deploy$SparkSubmit$$runMain(SparkSubmit.scala:845)
at org.apache.spark.deploy.SparkSubmit.doRunMain$1(SparkSubmit.scala:161)
at org.apache.spark.deploy.SparkSubmit.submit(SparkSubmit.scala:184)
at org.apache.spark.deploy.SparkSubmit.doSubmit(SparkSubmit.scala:86)
at org.apache.spark.deploy.SparkSubmit$$anon$2.doSubmit(SparkSubmit.scala:920)
at org.apache.spark.deploy.SparkSubmit$.main(SparkSubmit.scala:929)
at org.apache.spark.deploy.SparkSubmit.main(SparkSubmit.scala)
local_validators.yaml:
---
numKeyCols: 2
numErrorsToReport: 5
detailedErrors: true
vars:
- name: WORKDIR
env: PWD
tables:
- orcFile: testData.orc
checks:
- type: rowCount
minNumRows: 1000
# - type: nullCheck
# column: nullCol
outputs:
- filename: ${WORKDIR}/test.json
- Spark version 2.4.4
- Scala version 2.11.12
- 主要言語
- Scala
- スター
- 101
- フォーク
- 31
- PR マージ指標
- 30日以内にマージされた PR はありません
環境構築
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートあり
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
target/data-validator のほかの issue
-
enhancement
難易度 4/5 3〜5日 初心者へのやさしさ 35/100
target/data-validator#186 ·
-
Lock dependencies with sbt-dependency-lock対応中かも @colindean が 1287 日前に担当しました。 オープンenhancement hacktoberfest
難易度 4/5 3〜5日 初心者へのやさしさ 35/100
target/data-validator#129 ·
-
enhancement hacktoberfest
難易度 4/5 3〜5日 初心者へのやさしさ 35/100
target/data-validator#84 · コメント 4 件 ·
-
enhancement
難易度 4/5 3〜5日 初心者へのやさしさ 35/100
target/data-validator#83 ·
-
bug
難易度 3/5 1〜2日 初心者へのやさしさ 45/100
target/data-validator#77 · コメント 1 件 ·
target/data-validator の issue をすべて見る
似ている issue
-
LFSR.tapsMaxPeriod: 17 second tap sets (widths 725 to 755) are a single number larger than the widthオープン
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
chipsalliance/chisel#5512 ·
メンテナーはふだん 2 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 62/100
chipsalliance/rocket-chip#3838 ·
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
メンテナーはふだん 1 日以内に返信
-
ProviderExchangeSinkSpec leaves temp directories and files behind対応中かも @rajmodi8905 が今日担当しました。 オープンgood first issue
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
llm4s/llm4s#1714 · コメント 2 件 · 担当者 1 名 ·
メンテナーはふだん 1 日以内に返信
-
Fix Math.ceilDiv wrong result for exact positive divisions対応中かも @pamod-madubashana が 2 日前に担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 88/100
scala-native/scala-native#5094 ·
メンテナーはふだん 1 日以内に返信