[ENHANCEMENT]: Switch to cuda::memory_resource once it is available
I maintainer di solito rispondono entro 2 giorni
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 4/5
- Tempo stimato
- 3-5 giorni
- Idoneità per principianti
- 32/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Abbastanza chiara
- Stato di attività
- Ferma
- Stack tecnologico
- cpp
- Ambito
- performance
Direzione di ricerca
Inizia individuando cuco::cuda_allocator e i suoi utilizzi nelle implementazioni di size() e insert(). Verifica se la funzionalità cuda::memory_resource di libcu++ v2.0 a cui si fa riferimento è disponibile, quindi valuta il passaggio dell’allocator preservando il comportamento e le prestazioni dell’archiviazione intermedia. Il lavoro è completo quando l’allocator personalizzato è sostituito dove appropriato e le operazioni interessate rimangono corrette.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Is your feature request related to a problem? Please describe.
We currently roll our own default cuco::cuda_allocator, which internally calls cudaMalloc/cudaFree.
This approach doesn't leverage the concept of stream-ordered allocations, which might degrade performance for operations such as size() and insert(), where we allocate intermediate storage to retrieve the count.
Describe the solution you'd like
libcu++ v2.0 introduces a new cuda::memory_resource (design, initial PR, final PR).
We should use this facility instead.
Describe alternatives you've considered
No response
Additional context
No response
- Lingua principale
- Cuda
- Stelle
- 671
- Fork
- 122
- Merge medio
- 4g 19h
- PR unite (30g)
- 10
Preparare l'ambiente
Avvia il container di sviluppo del progetto nel browser, con il tuo account GitHub.
- Nessun Dockerfile né file Docker Compose
- Ha un modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di NVIDIA/cuCollections
-
Add cuco::detail::stream_sync(cuda::stream_ref) to centralize CCCL version-specific API namingForse di nuovo libera @0z5a l’ha presa 23 giorni fa e non c’è nessuna pull request aperta. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 74/100
NVIDIA/cuCollections#840 · 1 commento ·
I maintainer di solito rispondono entro 2 giorni
-
nvidia-runners
Difficoltà 1/5 1-3 ore Idoneità per principianti 25/100
NVIDIA/cuCollections#853 ·
I maintainer di solito rispondono entro 2 giorni
-
topic: performance type: feature request
Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100
NVIDIA/cuCollections#817 · 7 commenti · 1 reazione ·
I maintainer di solito rispondono entro 2 giorni
-
good first issue P2: Nice to have type: improvement
Difficoltà 4/5 3-5 giorni Idoneità per principianti 38/100
NVIDIA/cuCollections#805 · 4 commenti ·
I maintainer di solito rispondono entro 2 giorni
-
[FEA] Add MPSC/MPMC concurrent queueForse di nuovo libera @sleeepyjack l’ha presa 262 giorni fa e non c’è nessuna pull request aperta. Apertatype: feature request
NVIDIA/cuCollections#791 · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
Tutte le issue di NVIDIA/cuCollections
Issue simili
-
type/automation type/performance
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 78/100
I maintainer di solito rispondono entro 1 giorno
-
CLI contributor: external
Difficoltà 2/5 1-3 ore Idoneità per principianti 66/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
FinanceFlash/unvibecode#226 · 2 commenti ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
ag-ui-protocol/ag-ui#3019 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
external feature request text-splitters
Difficoltà 2/5 1-3 ore Idoneità per principianti 60/100
langchain-ai/langchain#41191 ·
I maintainer di solito rispondono entro 1 giorno