Proposal: a multi-buffer (multi-message) hashing trait for parallel independent digests
まだ誰も着手していません。
評価
- 難易度
- 5/5
- 見積もり時間
- 1週間以上
- 初心者へのやさしさ
- 32/100
- issue の種類
- 機能追加
- 明瞭さ
- おおむね明確
- 活発さ
- 静か
- 技術スタック
- rust
- 領域
- cryptography
調査の方向性
まず digest/src/block_api.rs を読み、crypto-common の ParBlocks に関する規約を、issue で参照されている cipher の実装および sha2 のバックエンドディスパッチと比較してください。方向性を提案する前に、提案されている 3 つの API 形状と未解決の質問を確認してください。完了の条件は、maintainer が crate、API、lane の表現、MVP の範囲について合意することです。現時点ではまだどの design も選択されていません。
索引モデルが issue の本文から書いたものです。
説明
The core primitive
We'd like to add a first-class abstraction for hashing N independent messages at once, so an implementation can place one message per SIMD lane and run the compression function across all lanes simultaneously:
Given N independent byte messages, produce their N digests in a single call.
This is the classic "multi-buffer" SHA construction (Gueron–Krasnov, Intel isa-l sha512_mb/sha256_mb). It exploits the fact that the round function has no cross-message dependency, even though it's fully serial within one message — so it's a different axis of parallelism from everything RustCrypto has today.
Why it's missing today (prior art)
As far as we can tell this capability doesn't exist anywhere in RustCrypto, and the existing parallelism is all a different axis:
ParBlocksSizeUser/ParBlocks(crypto-common, used bycipher) is the closest structural match — "process LANES units at once + scalar tail," viaencrypt_par_blocks/encrypt_tail_blocksoverinout::InOutBuf. But it means multiple blocks of one stream, not independent messages.- BLAKE2bp/sp, BLAKE3 tree mode, the sha2 AVX2 backend (#327) are all single-message internal SIMD.
- The hashing core API (
digest/src/block_api.rs) has no par-blocks concept;update_blocksis serial over one message.
So this would be a genuinely new capability on the hashing side, ideally borrowing the cipher-side conventions.
Motivating use case
Parallel Merkle-tree leaf hashing: the leaves are independent, equal-length messages — the ideal multi-buffer workload. (Our concrete driver is a parallel, order-independent launch-measurement for AMD SEV-SNP confidential VMs, but the primitive is general: tree/dedup/storage/packet hashing all want it.) On AMD in particular, SHA-384/512 has no hardware engine, so multi-buffer is the only way to use the SIMD datapath — and it's substantial on the Zen 5 / Turin native 512-bit path.
Design options
A — High-level one-shot trait on top of Digest, runtime dispatch internal (sha2-style):
pub trait MultiDigest: Digest {
fn digest_many(msgs: &[&[u8]], out: &mut [Output<Self>]); // impl detects avx2/avx512, chunks internally
}
B — Backend + driver split mirroring cipher's ParBlocks (compile-time width):
pub trait MultiDigestBackend: OutputSizeUser {
type Lanes: ArraySize; // typenum, like ParBlocksSize
fn digest_lanes(msgs: &Array<&[u8], Lanes>, out: &mut Array<Output<Self>, Lanes>);
fn digest_tail(..); // len < Lanes
}
// + a driver that splits into Lanes-chunks then a scalar tail
C — Streaming multi-lane context (isa-l manager-style): N independent incremental states with submit/flush, handling unequal-length messages that finish at different times. Most general, closest to isa-l, most complex.
| A: one-shot driver | B: backend + driver | C: streaming manager | |
|---|---|---|---|
| Width representation | internal (runtime) | type Lanes: ArraySize |
internal |
| ISA selection | runtime cpufeatures (like sha2) |
compile-time / backend types (like cipher) | runtime |
| Unequal lengths | precondition: equal (scalar tail) | equal per chunk | fully general |
| Streaming/incremental | no (one-shot) | no | yes |
| Complexity to land | low | medium | high |
| Fidelity to existing precedent | sha2 dispatch | cipher ParBlocks |
isa-l only |
Open questions for @tarcieri
- Does a multi-message hashing trait belong in
digest(orcrypto-common, or a new crate), or would you prefer inherent batch methods on individual hashes rather than a shared trait? - Width as a
typenumassociated type (type Lanes: ArraySize, matchingParBlocksSize) vs kept internal with runtimecpufeaturesdispatch (matching howsha2selects backends)? These two precedents point in different directions here. - Is a one-shot, equal-length primitive an acceptable MVP, or do you want the general (unequal-length / streaming) shape from the start?
- I/O convention: caller-provided output slice (à la
inout/InOutBuf), and should inputs reuseInOutBufor just&[&[u8]]? - Naming:
MultiDigest+Lanes(deliberately avoidingPar*, which already means intra-message)?
Happy to prototype whichever direction you prefer — we have a multi-buffer SHA-512/384 (AVX2 4-lane, AVX-512 8-lane) ready to shape to your guidance, with all SHA-2 variants to follow.
- 主要言語
- Rust
- スター
- 760
- フォーク
- 258
- PR マージ指標
- 30日以内にマージされた PR はありません
環境構築
このプロジェクトには開発コンテナ、Dockerfile、コントリビューションガイドがありません。まず README を読み、一般的な手順ははじめてのコントリビューションガイドを参照してください。
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
RustCrypto/traits のほかの issue
-
難易度 3/5 1〜2日 初心者へのやさしさ 52/100
RustCrypto/traits#2487 · コメント 2 件 ·
-
難易度 4/5 3〜5日 初心者へのやさしさ 45/100
RustCrypto/traits#2482 · コメント 5 件 ·
-
cipher
難易度 4/5 3〜5日 初心者へのやさしさ 38/100
RustCrypto/traits#2424 ·
-
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
RustCrypto/traits#2401 ·
-
難易度 5/5 1週間以上 初心者へのやさしさ 35/100
RustCrypto/traits#2366 · コメント 1 件 ·
RustCrypto/traits の issue をすべて見る
似ている issue
-
難易度 2/5 1〜3時間 初心者へのやさしさ 67/100
bherbruck/solvecraft#2167 ·
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
bitcoindevkit/bdk-cli#357 ·
メンテナーはふだん 3 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 67/100
Wavvon/Wavvon-clients#136 ·
メンテナーはふだん 1 日以内に返信
-
GUI:纯报告任务验收后误显示“已合并”オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 65/100
vorton-lang/Lobotomy#95 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 63/100
AimesSoft/NipaPlay-Reload#1022 ·
メンテナーはふだん 1 日以内に返信