huggingface/ratchet

Minimum number of copies from `Uint8Array` to `wgpu::Buffer`

Aberta

#171 aberto em 18 de abr. de 2024

Ver no GitHubGuia do colaborador
 (4 comentários) (1 reação) (0 responsável)Rust (44 forks)auto 404
help wanted

Métricas do repositório

Stars
 (768 estrelas)
Métricas de merge de PR
 (Nenhuma PRs mesclada em 30d)

Description

Currently in wgpu, there is no way to create a wgpu::Buffer directly from Uint8Array.

This means that our tensor data does something like this:

IndexedDB -> Uint8Array -> Vec<u8> ~~> Uint8Array -> WebGPU

Judging by this: https://developer.mozilla.org/en-US/docs/Web/API/GPUBuffer

I think the optimal is:

IndexedDB -> Uint8Array -> WebGPU

Reference: https://github.com/gfx-rs/wgpu/blob/trunk/wgpu/src/backend/webgpu.rs#L1821

Guia do colaborador

Direção de pesquisa
Examine o código de criação de buffer no backend webgpu do wgpu (linha 1821) e encontre uma maneira de usar diretamente os dados Uint8Array sem copiar para Vec<u8>.
Pilha de tecnologia
rust
Domain
web dev
Tipo Issue
Performance
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
2
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-3 horas
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
Rust
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
75