Support for 4bit or 8bit tensor
まだ誰も着手していません。
評価
- 難易度
- 5/5
- 見積もり時間
- 1週間以上
- 初心者へのやさしさ
- 25/100
- issue の種類
- 機能追加
- 明瞭さ
- 説明が足りない
- 活発さ
- 停滞
- 技術スタック
- cpp
- 領域
- hpc, performance
調査の方向性
ファイル、テスト、エントリーポイントのいずれも指定されていません。まず、意図されている4-bitおよび8-bitのテンソル表現と、例に期待される範囲を明確にし、その後、関連するテンソルおよびGPU計算のエントリーポイントを特定してください。完了時には、要求された削減後のメモリ帯域幅を実証する動作する例を含める必要があります。
索引モデルが issue の本文から書いたものです。
説明
Although it may be out of scope, it would be nice to have an example of computing 4bit and 8bit tensors, to save memory bandwidth.
- 主要言語
- C++
- スター
- 4k
- フォーク
- 199
- PR マージ指標
- 30日以内にマージされた PR はありません
コントリビューションガイド
このリポジトリのコントリビューションガイドは索引されていません
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
AnswerDotAI/gpu.cpp のほかの issue
-
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
AnswerDotAI/gpu.cpp#72 ·
-
難易度 4/5 3〜5日 初心者へのやさしさ 35/100
AnswerDotAI/gpu.cpp#51 ·
-
難易度 3/5 1〜2日 初心者へのやさしさ 35/100
AnswerDotAI/gpu.cpp#48 ·
-
難易度 3/5 1〜2日 初心者へのやさしさ 35/100
AnswerDotAI/gpu.cpp#45 · コメント 4 件 ·
-
難易度 4/5 3〜5日 初心者へのやさしさ 35/100
AnswerDotAI/gpu.cpp#42 · コメント 8 件 ·
AnswerDotAI/gpu.cpp の issue をすべて見る
似ている issue
-
ai_reviewed
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
ydb-platform/ydb#53869 · コメント 3 件 ·
-
bug cert blocker needs triage
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
project-chip/connectedhomeip#74373 ·
-
upstream update
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
conan-io/conan-center-index#31035 ·
-
Bug
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
-
documentation
難易度 1/5 1時間未満 初心者へのやさしさ 85/100
vllm-project/vllm-ascend#17329 ·