finalize HPLT 4.0 public release
@oepen 已經在處理了。
開始於 2026年8月6日。
評估
這個 Issue 還沒有評估資料。
描述
at long last, all of the pieces are on the table: (a) petabytes of raw files from the HPLT pipeline, (b) 450 or so terabytes of the pool, and 44 + 12 + 15 terabytes of final clean, noisy, and poor data after filtering. of these, (a) resides on LUMI-O (with an interim manifesto in /nird/datalake/NS8112K/public/four/pool/lumio.jsonl), while everything else is already pushed to the NIRD download site.
what remains to be done are analytics reports, organizing checksums and download maps, deciding on how to make the pool and raw data useable, and working with @lukasweymann, @gramirez-prompsit, @akutuzov, and the rest of the HPLT team on writing and polishing the download web page(s).
- 主要語言
- Shell
- 星號
- 1
- 分支
- 0
- PR 合併指標
- 30 天內沒有已合併 PR
環境準備
這個專案沒有提供開發容器、Dockerfile 或貢獻指南,環境需要你自己搭建:先看它的 README,通用步驟見我們的新手貢獻指南。
從這裡開始
- 先讀完整個 Issue,再讀專案的貢獻指南。
- 在 Issue 下留言說明你要接手 —— 這能避免兩個人做同樣的事。
- Fork 儲存庫,在一個分支上完成修改。
- 送出 Pull Request,並在描述裡引用這個 Issue 編號。
OpenEuroLLM/web-data-processing 的其他 Issue
-
audio and video extraction from WARCs可能已有人在做 @nvanva 於 7 天前認領。 未關閉
OpenEuroLLM/web-data-processing#8 · 1 則留言 · 已指派 3 人 ·
-
robots.txt可能已有人在做 @nvanva 於 7 天前認領。 未關閉
OpenEuroLLM/web-data-processing#7 · 已指派 1 人 ·
-
S2-S4 updates可能已有人在做 @nvanva 於 7 天前認領。 未關閉
OpenEuroLLM/web-data-processing#6 · 3 則留言 · 已指派 2 人 ·
-
S2-S4 integration可能已有人在做 @nvanva 於 7 天前認領。 未關閉
難度 5/5 一週以上 新手友好度 20/100
OpenEuroLLM/web-data-processing#5 · 已指派 1 人 ·
-
LUMIO manifest generation可能已有人在做 @nvanva 於 13 天前認領。 未關閉
OpenEuroLLM/web-data-processing#4 · 1 則留言 · 已指派 1 人 ·
查看 OpenEuroLLM/web-data-processing 的全部 Issue
相似的 Issue
-
難度 1/5 1 小時以內 新手友好度 88/100
維護者通常 1 天內回覆
-
難度 2/5 1-3 小時 新手友好度 72/100
koalaman/shellcheck#3593 ·
-
automated issue report
難度 1/5 1 小時以內 新手友好度 78/100
a2aproject/A2A#2381 ·
維護者通常 3 天內回覆
-
e2e-failure ready-to-code
難度 1/5 1 小時以內 新手友好度 82/100
redhat-developer/rhdh-plugin-export-overlays#4485 · 1 則留言 ·
維護者通常 1 天內回覆
-
DSH /pwf-status reports no plan when PLAN_ID is required可能已有人在做 @kuei51307-hub 今天認領。 未關閉
難度 2/5 1-3 小時 新手友好度 78/100
OthmanAdi/planning-with-files#332 · 1 個 reaction ·
維護者通常 1 天內回覆