huggingface/ratchet

Shared Array Buffer 🪄

Aberta

#79 aberto em 13 de fev. de 2024

Ver no GitHubGuia do colaborador
 (0 comentário) (1 reação) (0 responsável)Rust (44 forks)auto 404
help wanted

Métricas do repositório

Stars
 (768 estrelas)
Métricas de merge de PR
 (Nenhuma PRs mesclada em 30d)

Description

When we pull the model from the wire, we should write it into a shared array buffer: https://rustwasm.github.io/wasm-bindgen/examples/raytrace.html

This will reduce memory usage, ideally peak memory usage should be ~model size. Loading will require some magic.

Guia do colaborador

Direção de pesquisa
Implemente o carregamento do modelo em um SharedArrayBuffer para reduzir o pico de uso de memória. Estude o exemplo de raytracing wasm bindgen fornecido para padrões. Você precisará modificar a desserialização do modelo para armazenar bytes em um SharedArrayBuffer e garantir a segurança da memória em Rust.
Pilha de tecnologia
rustwasm
Domain
web devmachine learning
Tipo Issue
Funcionalidade
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-2 dias
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Recente
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
RustWebAssemblywasm bindgen
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
30