Lack of unrolling and very high register usage
Mantenedores costumam responder em até 1 dia
@Firestar99 já está trabalhando nisso.
Desde 26/11/2025.
Avaliação
Esta issue ainda não foi avaliada.
Descrição
I have many places in the code that can be condensed to something like this:
const MAX_BUCKET_SIZE: usize = 512;
const WORKGROUP_SIZE: u32 = 256;
unsafe {
core::hint::assert_unchecked(matches_count <= MAX_BUCKET_SIZE);
}
for index in (local_invocation_id..matches_count as u32).step_by(WORKGROUP_SIZE as usize) {
Can also be rewritten in a way that will probably produce some helpful runtime code in SPIR-V since I suspect the hint will be lost in translation:
const MAX_BUCKET_SIZE: usize = 512;
const WORKGROUP_SIZE: u32 = 256;
for index in (local_invocation_id..matches_count.min(MAX_BUCKET_SIZE) as u32)
.step_by(WORKGROUP_SIZE as usize)
{
It is not difficult for me to see that there will be at most two loop iterations here per invocation. However, it is not something compiler sees today.
The result is much higher register usage, impacting occupancy in a big way.
Rewriting it to inner function that is called twice with explicit bounds checks fixes register usage (though I hit https://github.com/Rust-GPU/rust-gpu/issues/461 when doing so), but is far from idiomatic Rust and is quite painful to do manually in all such cases.
I wish end-to-end compilation chain was aware of things like this, it is a very important pattern for performance.
In fact loop unrolling is extremely bad right now, even fixed loops with 3-4 iterations and one or several simply ALU instructions in it are not unrolled and balloon register usage.
- Linguagem predominante
- Rust
- Estrelas
- 3.4k
- Forks
- 132
- Merge médio
- 1d 58min
- PRs com merge (30d)
- 12
Preparar o ambiente
- Sem Dockerfile nem arquivo Docker Compose
- Sem modelo de pull request
- Ler o guia de contribuição
Primeiros passos
- Leia a issue inteira e depois o guia de contribuição do projeto.
- Comente na issue dizendo que vai assumir — evita que duas pessoas façam o mesmo trabalho.
- Faça um fork do repositório e trabalhe em uma branch.
- Abra um pull request que referencie o número da issue.
Mais de Rust-GPU/rust-gpu
-
bug
Dificuldade 1/5 Menos de uma hora Facilidade para iniciantes 75/100
Rust-GPU/rust-gpu#669 · 1 comentário ·
Mantenedores costumam responder em até 1 dia
-
enhancement
Dificuldade 1/5 Menos de uma hora Facilidade para iniciantes 68/100
Rust-GPU/rust-gpu#209 · 1 comentário ·
Mantenedores costumam responder em até 1 dia
-
Can `u128`/`i128` alignment be made `16`?Talvez já em andamento @Firestar99 assumiu hoje. Aberta
Dificuldade 4/5 3-5 dias Facilidade para iniciantes 45/100
Rust-GPU/rust-gpu#665 · 1 comentário ·
Mantenedores costumam responder em até 1 dia
-
Dificuldade 5/5 Mais de uma semana Facilidade para iniciantes 35/100
Rust-GPU/rust-gpu#659 · 8 comentários ·
Mantenedores costumam responder em até 1 dia
-
Adhere to Rust floating-point semanticsTalvez livre de novo @Firestar99 assumiu há 28 dias e não há nenhum pull request aberto. Abertaenhancement
Rust-GPU/rust-gpu#643 · 6 comentários · 1 reação · 1 responsável ·
Mantenedores costumam responder em até 1 dia
Todas as issues de Rust-GPU/rust-gpu
Issues semelhantes
-
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 70/100
Mantenedores costumam responder em até 1 dia
-
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 76/100
swc-project/swc#12516 ·
Mantenedores costumam responder em até 1 dia
-
app bug
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 76/100
-
mls-rs-crypto-awslc: exact aws-lc-rs =1.16.3 pin blocks rustls security updateTalvez já em andamento @muscariello assumiu hoje. Aberta
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 65/100
-
[work-item] adam-adae-worsening-emergence: conform spec.yaml to the specification style contract (REQ-1280)Talvez já em andamento @muse-yamaa-bot assumiu hoje. Abertawork-item
Dificuldade 1/5 1-3 horas Facilidade para iniciantes 82/100
Mantenedores costumam responder em até 1 dia