Support running scripts with Nodejs or Deno, including webgpu support
まだ誰も着手していません。
評価
- 難易度
- 5/5
- 見積もり時間
- 1週間以上
- 初心者へのやさしさ
- 25/100
- issue の種類
- 機能追加
- 明瞭さ
- 説明が足りない
- 活発さ
- 停滞
- 技術スタック
- deno, nodejs, typescript
調査の方向性
animated-transformer/src/lib/seqtasks/tiny_worlds_train_self.script.ts と、リンクされている TensorFlow.js プラットフォームガイドから始めます。参照されている WebGPU バックエンドとランタイムの問題を含め、Node.js と Deno について記載されているパスを比較します。サポートされているランタイムで WebGPU による高速化テストのためにスクリプトを実行でき、メモリリークのデバッグが可能になれば完了です。
索引モデルが issue の本文から書いたものです。
説明
Lets make it possible to test WebGPU accelerated code via scripts, e.g. when running: https://github.com/PAIR-code/tiny-transformers/blob/main/animated-transformer/src/lib/seqtasks/tiny_worlds_train_self_att.script.ts
This may help us debug memory leaks too.
Breadcrumbs:
General TFJS platform guide: https://www.tensorflow.org/js/guide/platform_environment
WebGPU support for tfjs:
TFJS Node support (references GPU support too, but for linux and windows, not yet mac)
Key issues for Deno (looks resolved... uses tfjs-backend-webgpu and seems to use Chrome GPU backend support):
- https://github.com/denoland/deno/issues/25874 : WebGPU adapter.info call fails after device creation [closed]
- https://github.com/denoland/deno/issues/28135 : GPUAdapter invalidation causes TensorFlow.js WebGPU backend to fail — Follow-up to [closed, but some discussion on if it can already be used...]
Possible alternative paths... webgpu for node and then make tfjs-node-gpu
- https://www.npmjs.com/package/webgpu & discussion about it in nodejs forum: https://github.com/orgs/nodejs/discussions/41994
- 主要言語
- Jupyter Notebook
- スター
- 24
- フォーク
- 6
- PR マージ指標
- 30日以内にマージされた PR はありません
環境構築
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートなし
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
PAIR-code/tiny-transformers のほかの issue
-
難易度 3/5 1〜2日 初心者へのやさしさ 45/100
-
Add support for cross-entropy loss with integer labels再び着手できるかも @aliciafmachado が 605 日前に担当しましたが、オープン中のプルリクエストはありません。 オープンenhancement
PAIR-code/tiny-transformers#60 · 担当者 1 名 ·
-
Refactor transformer_gtensor.ts and gpt2.ts to share functions in a common file再び着手できるかも @aliciafmachado が 637 日前に担当しましたが、オープン中のプルリクエストはありません。 オープンenhancement
PAIR-code/tiny-transformers#54 · 担当者 1 名 ·
-
Add GPT2 tokenizer再び着手できるかも @aliciafmachado が 637 日前に担当しましたが、オープン中のプルリクエストはありません。 オープン
PAIR-code/tiny-transformers#52 · 担当者 1 名 ·
-
難易度 3/5 1〜2日 初心者へのやさしさ 35/100
PAIR-code/tiny-transformers の issue をすべて見る
似ている issue
-
難易度 2/5 半日 初心者へのやさしさ 62/100
EvolvingLMMs-Lab/LongVT#27 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 70/100
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
メンテナーはふだん 3 日以内に返信
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
-
ManualStateFeatureWeighting accepts non-positive weights leading to NaN/inf loss対応中かも @Shivampal157 が 1 日前に担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 80/100
mllam/neural-lam#787 · コメント 1 件 ·
メンテナーはふだん 2 日以内に返信