finalize HPLT 4.0 public release
@oepen ci sta già lavorando.
Dal 6/8/2026.
Valutazione
Questa issue non è ancora stata valutata.
Descrizione
at long last, all of the pieces are on the table: (a) petabytes of raw files from the HPLT pipeline, (b) 450 or so terabytes of the pool, and 44 + 12 + 15 terabytes of final clean, noisy, and poor data after filtering. of these, (a) resides on LUMI-O (with an interim manifesto in /nird/datalake/NS8112K/public/four/pool/lumio.jsonl), while everything else is already pushed to the NIRD download site.
what remains to be done are analytics reports, organizing checksums and download maps, deciding on how to make the pool and raw data useable, and working with @lukasweymann, @gramirez-prompsit, @akutuzov, and the rest of the HPLT team on writing and polishing the download web page(s).
- Lingua principale
- Shell
- Stelle
- 1
- Fork
- 0
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Preparare l'ambiente
Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di OpenEuroLLM/web-data-processing
-
audio and video extraction from WARCsForse già presa @nvanva l’ha presa 5 giorni fa. Aperta
OpenEuroLLM/web-data-processing#8 · 1 commento · 3 assegnatari ·
-
robots.txtForse già presa @nvanva l’ha presa 5 giorni fa. Aperta
OpenEuroLLM/web-data-processing#7 · 1 assegnatario ·
-
S2-S4 updatesForse già presa @nvanva l’ha presa 5 giorni fa. Aperta
OpenEuroLLM/web-data-processing#6 · 3 commenti · 2 assegnatari ·
-
S2-S4 integrationForse già presa @nvanva l’ha presa 5 giorni fa. Aperta
Difficoltà 5/5 Più di una settimana Idoneità per principianti 20/100
OpenEuroLLM/web-data-processing#5 · 1 assegnatario ·
-
LUMIO manifest generationForse già presa @nvanva l’ha presa 11 giorni fa. Aperta
OpenEuroLLM/web-data-processing#4 · 1 commento · 1 assegnatario ·
Tutte le issue di OpenEuroLLM/web-data-processing
Issue simili
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 67/100
phusion/passenger-docker#480 ·
-
bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
-
source:reader type:enhancement
Difficoltà 2/5 1-3 ore Idoneità per principianti 67/100
stephrobert/blog-roadmap#95 ·
-
Gemini: respect PLANNING_DISABLED=1 in lifecycle context hooksForse già presa @AmariAugustin l’ha presa oggi. Apertabug good first issue help wanted
Difficoltà 2/5 1-3 ore Idoneità per principianti 87/100
OthmanAdi/planning-with-files#329 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 84/100
I maintainer di solito rispondono entro 2 giorni