Shared Array Buffer 🪄 · huggingface/ratchet

(0 件のコメント) (1 件のリアクション) (0 人の担当者)Rust (44 件のフォーク)auto 404

help wanted

Repository metrics

Stars: (768 個のスター)
PR merge metrics: (PR metrics pending)

説明

When we pull the model from the wire, we should write it into a shared array buffer: https://rustwasm.github.io/wasm-bindgen/examples/raytrace.html

This will reduce memory usage, ideally peak memory usage should be ~model size. Loading will require some magic.

コントリビューターガイド

調査方針: ピークメモリ使用量を削減するために、モデルを SharedArrayBuffer に読み込む機能を実装します。提供された wasm bindgen のレイトレースの例をパターンとして研究してください。モデルの逆シリアル化を変更して、バイトを SharedArrayBuffer に格納し、Rust でのメモリ安全性を確保する必要があります。
技術スタック: rustwasm
領域: web devmachine learning
Issue 種別: 機能
難度: 3
推定時間: 1-2日
活動状況: 新着
明確さ: 明確
前提条件: RustWebAssemblywasm bindgen
初心者向け度: 30