Compression ratio degraded for repeated INT64 columns in parquet
還沒有人認領這個 Issue。
評估
- 難度
- 4/5
- 預估耗時
- 3-5 天
- 新手友好度
- 35/100
- Issue 類型
- 缺陷
- 描述清晰度
- 基本清楚
- 活躍度
- 停滯
- 技術堆疊
- java
- 領域
- performance
研究方向
The report links a Parquet file and says compression worsens when writing it with Snappy versions newer than 1.1.2.6. Start by reproducing the compression-ratio comparison with the linked file and versions, then trace the compressor path used for repeated INT64 values. Done means identifying and verifying the cause of the ratio drop; the issue does not name files or tests to start from.
由索引模型根據 Issue 內容生成。
描述
When testing upgrade to spark 3.1.1 I've noticed the compression of repeated INT64 columns compression got worse.
Reading this file saved with snappy 1.1.2.6, and writing it with higher version results in compression ratio dropping from 2.05 to 1.26
Any snappy-version higher than 1.1.2.6 reproduced this issue.
- 主要語言
- Java
- 星號
- 1.1k
- 分支
- 261
- 平均合併
- 2 分鐘
- 30 天內合併 PR
- 2
環境準備
這個專案沒有提供開發容器、Dockerfile 或貢獻指南,環境需要你自己搭建:先看它的 README,通用步驟見我們的新手貢獻指南。
從這裡開始
- 先讀完整個 Issue,再讀專案的貢獻指南。
- 在 Issue 下留言說明你要接手 —— 這能避免兩個人做同樣的事。
- Fork 儲存庫,在一個分支上完成修改。
- 送出 Pull Request,並在描述裡引用這個 Issue 編號。
xerial/snappy-java 的其他 Issue
-
難度 4/5 3-5 天 新手友好度 35/100
xerial/snappy-java#658 · 3 則留言 · 1 個 reaction ·
-
難度 3/5 1-2 天 新手友好度 56/100
xerial/snappy-java#607 ·
-
難度 4/5 3-5 天 新手友好度 45/100
xerial/snappy-java#604 · 1 則留言 ·
-
難度 4/5 3-5 天 新手友好度 45/100
xerial/snappy-java#603 · 3 則留言 ·
-
Snappy error on Mac OS Ventura: "no native library is found for os.name=Mac and os.arch=aarch64"未關閉
難度 4/5 3-5 天 新手友好度 35/100
xerial/snappy-java#573 · 1 個 reaction ·
查看 xerial/snappy-java 的全部 Issue
相似的 Issue
-
hermes-queue
難度 1/5 1-3 小時 新手友好度 85/100
chrisalunlloyd2-sudo/mindpalace#403 ·
維護者通常 1 天內回覆
-
triage
難度 2/5 1-3 小時 新手友好度 72/100
xerial/sqlite-jdbc#1515 ·
維護者通常 1 天內回覆
-
Area/Configuration Type/Improvement
難度 2/5 1-3 小時 新手友好度 68/100
ballerina-platform/static-code-analysis-tool#217 ·
維護者通常 1 天內回覆
-
SequenceEncoder: a value ending with a backslash swallows the tokens after it (“No state for trait”)未關閉
難度 2/5 1-3 小時 新手友好度 80/100
vassalengine/vassal#15337 ·
維護者通常 1 天內回覆
-
難度 2/5 1-3 小時 新手友好度 76/100
eclipse-dirigible/dirigible#8636 · 1 則留言 ·
維護者通常 1 天內回覆