Spark Connector Dependency Conflicts
维护者通常 4 天内回复
还没有人认领这个 Issue。
评估
- 难度
- 4/5
- 预计耗时
- 3-5 天
- 新手友好度
- 42/100
- Issue 类型
- 功能
- 描述清晰度
- 基本清楚
- 活跃度
- 停滞
- 技术栈
- java, spark
调研方向
首先检查 Spark connector 的构建和依赖配置，然后复现不带 --packages 提交时其 JAR 的行为。完成标准是 connector JAR 包含其所需的依赖，并对与 Spark 冲突的依赖进行 shade，包括所提到的 Apache logging 重叠；在类似 air-gapped 的部署环境中验证打包后的 artifact。
由索引模型根据 Issue 内容生成。
描述
Is your feature request related to a problem? Please describe.
-
The current spark connector does not include all dependencies in the JAR. This results in having to use
--packagesto define the Maven artifactId to pull in the dependencies atsubmit. This creates issues for air-gapped environments which requires mirroring all dependencies. -
There is a potential conflict between Spark versions and the Apache logging dependency and the dependency used by the Spark connector.
Describe the solution you would like
I suggest we build the spark connector to include all dependencies as well as shading the deps that overlap with Spark, simplifying spark deployment.
- 主要语言
- Java
- 星标
- 3.6k
- 派生
- 687
- 平均合并
- 4 天 21 小时
- 30 天内合并 PR
- 48
环境准备
- 提供 Dockerfile 或 Docker Compose 文件
- 有 Pull Request 模板
- 阅读贡献指南
从这里开始
- 先读完整个 Issue，再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库，在一个分支上完成修改。
- 提交 Pull Request，并在描述里引用这个 Issue 编号。
unitycatalog/unitycatalog 的其他 Issue
-
难度 2/5 1-3 小时 新手友好度 78/100
unitycatalog/unitycatalog#2025 ·
维护者通常 4 天内回复
-
难度 2/5 1-3 小时 新手友好度 72/100
unitycatalog/unitycatalog#1744 ·
维护者通常 4 天内回复
-
难度 2/5 1-3 小时 新手友好度 72/100
unitycatalog/unitycatalog#1679 ·
维护者通常 4 天内回复
-
Flaky python-client-tests CI: coursier OverlappingFileLockException during sbt update可能已有人在做 @niruta25 于 187 天前认领。 未关闭
难度 2/5 1-3 小时 新手友好度 72/100
unitycatalog/unitycatalog#1496 · 1 条评论 ·
维护者通常 4 天内回复
-
Remove the duplicate UC properties setting for both `key` and `option.key`.可能已有人在做 @niruta25 于 206 天前认领。 未关闭
难度 1/5 1 小时以内 新手友好度 78/100
unitycatalog/unitycatalog#1356 · 1 条评论 ·
维护者通常 4 天内回复
查看 unitycatalog/unitycatalog 的全部 Issue
相似的 Issue
-
难度 2/5 1-3 小时 新手友好度 68/100
ome/ome-codecs#48 ·
-
难度 1/5 1 小时以内 新手友好度 90/100
tonihele/OpenKeeper#672 ·
维护者通常 4 天内回复
-
Shaded google-api-client trust stores still include AAA Certificate Services (eMudhra CA compromise)未关闭
难度 2/5 1-3 小时 新手友好度 72/100
snowflakedb/snowflake-jdbc#2763 ·
-
难度 1/5 1 小时以内 新手友好度 79/100
java-native-access/jna#1746 ·
-
难度 2/5 1-3 小时 新手友好度 62/100
ControlSystemStudio/phoebus#3983 ·
维护者通常 2 天内回复