How to run in Spark on YARN?
还没有人认领这个 Issue。
评估
- 难度
- 4/5
- 预计耗时
- 3-5 天
- 新手友好度
- 25/100
- Issue 类型
- 文档
- 描述清晰度
- 需要澄清
- 活跃度
- 停滞
调研方向
从报告的 spark-submit 命令、其“Missing application resource”错误以及所述的 YARN 集群和 Virtualenv 设置开始。确定所需的应用程序资源,以及是否必须在工作节点上提供 Tensorframes 和 TensorFlow;完成的标准是记录一个可正常工作的 YARN 提交命令和部署要求。
由索引模型根据 Issue 内容生成。
描述
Hi, Everyone. Tensorframe is interesting to me. So I want to test Tensorframe in my Spark's cluster. But I have wonder.
- I wondering that Tensorframe just needs to install to master node and don't needs to install any worker.
- This command is okay that "pyspark --packages databricks:tensorframes:0.2.9-s_2.11"
But I want to use Spark's cluster. So, I want to use this command "spark-submit --packages databricks:tensorframes:0.2.9-s_2.11". But this command has the error like this:
Exception in thread "main" java.lang.IllegalArgumentException: Missing application resource.
at org.apache.spark.launcher.CommandBuilderUtils.checkArgument(CommandBuilderUtils.java:241)
at org.apache.spark.launcher.SparkSubmitCommandBuilder.buildSparkSubmitArgs(SparkSubmitCommandBuilder.java:160)
at org.apache.spark.launcher.SparkSubmitCommandBuilder.buildSparkSubmitCommand(SparkSubmitCommandBuilder.java:274)
at org.apache.spark.launcher.SparkSubmitCommandBuilder.buildCommand(SparkSubmitCommandBuilder.java:151)
at org.apache.spark.launcher.Main.main(Main.java:86)
Someone have this error?
- I have Spark's cluster that has 3 nodes (YARN on a Hadoop cluster, 1 master, 2 worker)
- I used Virtualenv for Tensorflow(CPU version)
- I install panda-0.20.3
I would be grateful if you could please answer my question.
- 主要语言
- Scala
- 星标
- 743
- 派生
- 158
- PR 合并指标
- 30 天内没有已合并 PR
贡献指南
这个仓库没有索引到贡献指南
从这里开始
- 先读完整个 Issue,再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库,在一个分支上完成修改。
- 提交 Pull Request,并在描述里引用这个 Issue 编号。
databricks/tensorframes 的其他 Issue
-
难度 5/5 一周以上 新手友好度 20/100
databricks/tensorframes#185 ·
-
难度 4/5 3-5 天 新手友好度 25/100
databricks/tensorframes#181 ·
-
难度 4/5 3-5 天 新手友好度 30/100
databricks/tensorframes#179 ·
-
难度 5/5 一周以上 新手友好度 15/100
databricks/tensorframes#176 · 2 条评论 ·
-
难度 4/5 3-5 天 新手友好度 30/100
databricks/tensorframes#165 ·
查看 databricks/tensorframes 的全部 Issue
相似的 Issue
-
Area: Excel support
难度 2/5 1-3 小时 新手友好度 75/100
orbeon/orbeon-forms#7893 ·
-
难度 2/5 1-3 小时 新手友好度 75/100
lichess-org/lila#21788 · 2 条评论 ·
-
area:Iceberg area:writer documentation requires-triage
难度 2/5 1-3 小时 新手友好度 75/100
apache/datafusion-comet#6147 ·
-
feature
难度 2/5 1-3 小时 新手友好度 70/100
GiganticMinecraft/SeichiAssist#2978 ·
-
难度 2/5 1-3 小时 新手友好度 70/100
chipsalliance/rocket-chip#3833 ·