decode & decode_iter 多线程会不会有问题
まだ誰も着手していません。
評価
調査の方向性
まず、モデルの decode と decode_iter のエントリポイントを追跡し、複数のスレッドから呼び出されたときにそれらが状態をどのように共有するかを確認します。リポジトリ内に既存の並行性テストやドキュメントがないか探します。完了の条件は、スレッドセーフ性について明確で根拠に基づく結論が得られ、必要なテストまたはドキュメントの更新が行われていることです。
索引モデルが issue の本文から書いたものです。
説明
如果多个线程同时使用model的 decode 和 decode_iter方法,会不会有问题?
- 主要言語
- C++
- スター
- 752
- フォーク
- 94
- PR マージ指標
- 30日以内にマージされた PR はありません
環境構築
このプロジェクトには開発コンテナ、Dockerfile、コントリビューションガイドがありません。まず README を読み、一般的な手順ははじめてのコントリビューションガイドを参照してください。
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
MegEngine/InferLLM のほかの issue
-
SG2042 服务器 make 出错オープン
難易度 4/5 3〜5日 初心者へのやさしさ 30/100
-
无法加载模型bin或者guff模型オープン
難易度 4/5 3〜5日 初心者へのやさしさ 25/100
-
有打算支持qwen吗オープン
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
-
難易度 4/5 3〜5日 初心者へのやさしさ 20/100
-
这个有windows的部署教程吗オープン
難易度 3/5 1〜2日 初心者へのやさしさ 35/100
MegEngine/InferLLM の issue をすべて見る
似ている issue
-
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
mesonbuild/wrapdb#2961 ·
メンテナーはふだん 1 日以内に返信
-
80 Instance - Raid - Northrend
難易度 2/5 1〜3時間 初心者へのやさしさ 62/100
azerothcore/azerothcore-wotlk#28075 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 85/100
objectionary/eo-graphs#80 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 84/100
scanaislop/aislop#476 ·
メンテナーはふだん 1 日以内に返信