Support opening datasets with file-like objects in a Beam pipeline
还没有人认领这个 Issue。
评估
- 难度
- 4/5
- 预计耗时
- 3-5 天
- 新手友好度
- 32/100
- Issue 类型
- 功能
- 描述清晰度
- 需要澄清
- 活跃度
- 停滞
- 技术栈
- python
调研方向
首先检查 xarray-beam 如何打开数据集并将其传递到 Apache Beam 管道中。使用从类文件对象打开的数据集重现该故障，然后确定 xarray-beam 或上游 Xarray 需要进行哪些更改；当 netCDF 加载能够在独立的 Beam worker 中运行时，即视为完成。
由索引模型根据 Issue 内容生成。
描述
I experimented a bit more with this based on @mjwillson's suggestion.
Amazingly, it seems that uses file-like objects in Xarray does actually work as used here, though making a local copy might still have better performance.
What doesn't work yet -- but hopefully with small upstream changes to Xarray could work -- is passing xarray datasets opened with these file-like objects into a Beam pipeilne. That could let us do the actual data loading from netCDF in separate workers, which could be quite a win!
Originally posted by @shoyer in https://github.com/google/xarray-beam/pull/31#discussion_r696246752
- 主要语言
- Python
- 星标
- 170
- 派生
- 15
- 平均合并
- 1 天 4 小时
- 30 天内合并 PR
- 1
环境准备
- 没有 Dockerfile 或 Docker Compose 文件
- 没有 Pull Request 模板
- 阅读贡献指南
从这里开始
- 先读完整个 Issue，再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库，在一个分支上完成修改。
- 提交 Pull Request，并在描述里引用这个 Issue 编号。
google/xarray-beam 的其他 Issue
-
`OverflowError` when a chunk exceeds 2 GB可能已有人在做 @chase-dwelle 于 153 天前认领。 未关闭
难度 2/5 1-3 小时 新手友好度 76/100
google/xarray-beam#196 ·
-
难度 5/5 一周以上 新手友好度 25/100
google/xarray-beam#199 ·
-
难度 4/5 3-5 天 新手友好度 30/100
google/xarray-beam#195 ·
-
难度 5/5 一周以上 新手友好度 30/100
google/xarray-beam#173 ·
-
难度 4/5 3-5 天 新手友好度 35/100
google/xarray-beam#124 ·
查看 google/xarray-beam 的全部 Issue
相似的 Issue
-
customer-reported question
难度 2/5 1-3 小时 新手友好度 62/100
Azure/azure-sdk-for-python#49548 · 1 条评论 · 1 个 reaction ·
维护者通常 1 天内回复
-
难度 1/5 1 小时以内 新手友好度 88/100
btclib-org/btclib-wallet#409 ·
维护者通常 1 天内回复
-
Phase 2 PSA Capability & Career Profile
难度 2/5 1-3 小时 新手友好度 62/100
bcgov/digital-journeys#2310 ·
-
bug good first issue
难度 2/5 1-3 小时 新手友好度 78/100
fastmachinelearning/hls4ml#1582 ·
维护者通常 3 天内回复
-
Sort models未关闭enhancement good first issue
难度 2/5 1-3 小时 新手友好度 62/100
维护者通常 1 天内回复