Using Mat-Mul Instructions, like Arm SME and Intel AMX
まだ誰も着手していません。
評価
- 難易度
- 5/5
- 見積もり時間
- 1週間以上
- 初心者へのやさしさ
- 18/100
- issue の種類
- 機能追加
- 明瞭さ
- 説明が足りない
- 活発さ
- 停滞
- 技術スタック
- cpp
- 領域
- hpc, performance
調査の方向性
まず、行列ベクトル乗算を使用する、提案された2段階のリダクションと、issueに記載されたArm SMEおよびIntel AMXの制約を確認します。次に、関連する実装のコンテキストを把握するため、参照されているSimSIMDのpull requestを確認します。このアプローチの実装を定義し、ベンチマークまで完了すれば、対応完了とみなされますが、issueではリポジトリのファイルやテストは指定されていません。
索引モデルが issue の本文から書いたものです。
説明
Array reductions can be represented as a two-stage pipeline built on top of matrix-vector multiplications, where the vector is made of all ones.
Let's say our hardware supports fast 16 by 16 matrix multiplications with a single instruction. We can reshape the input array of length $N$ as a matrix of $16$ rows and $N/16$ columns, and use a tiled matrix-multiplication instruction sliding through that wide matrix, multiplying it by a $16$-element vector of ones, and accumulating into $16$ other floats.
In reality, we can't user Intel AMX with float32 inputs, but we can use Arm SME, and later apply similar techniques to SimSIMD.
- 主要言語
- C++
- スター
- 119
- フォーク
- 10
- PR マージ指標
- 30日以内にマージされた PR はありません
環境構築
このプロジェクトには開発コンテナ、Dockerfile、コントリビューションガイドがありません。まず README を読み、一般的な手順ははじめてのコントリビューションガイドを参照してください。
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
ashvardanian/ParallelReductionsBenchmark のほかの issue
-
Add Python benchmarks for the new CUDA DSL/JIT再び着手できるかも @AnshSinghSonkhia が 449 日前に担当しましたが、オープン中のプルリクエストはありません。 オープンgood first issue help wanted
ashvardanian/ParallelReductionsBenchmark#9 · コメント 2 件 · 担当者 1 名 ·
-
難易度 3/5 1〜2日 初心者へのやさしさ 35/100
-
enhancement good first issue
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
ashvardanian/ParallelReductionsBenchmark#7 · リアクション 1 件 ·
-
難易度 4/5 3〜5日 初心者へのやさしさ 25/100
ashvardanian/ParallelReductionsBenchmark#1 · コメント 1 件 · リアクション 1 件 ·
ashvardanian/ParallelReductionsBenchmark の issue をすべて見る
似ている issue
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 74/100
メンテナーはふだん 1 日以内に返信
-
Ctrl-C can abort a node: the state timer asks for the node names after shutdown対応中かも @fmrico が今日担当しました。 オープンbug
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
fmrico/cascade_lifecycle#24 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 70/100
-
難易度 2/5 1〜3時間 初心者へのやさしさ 74/100
Deltakit/deltakit-stim#52 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 74/100
メンテナーはふだん 1 日以内に返信