推理显存沾满了后，看到显存自动释放了，且推理还在继续，是怎么做到
まだ誰も着手していません。
評価
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 初心者へのやさしさ
- 25/100
- issue の種類
- ドキュメント
- 明瞭さ
- 説明が足りない
- 活発さ
- 停滞
- 技術スタック
- python
調査の方向性
Issue では MOSS 推論と nvidia-smi について言及されていますが、ファイル、テスト、エントリーポイントは指定されていません。まず推論パスと GPU メモリの処理箇所を特定し、次にメモリ使用量が容量に達したときに何が起こるかを追跡してください。推論を継続しながらメモリがどのように解放され、それによってクラッシュがどのように防止されるかを文書化できれば完了です。
索引モデルが issue の本文から書いたものです。
説明
推理显存沾满了后，通过nvidia-smi，看到显存自动释放了，且推理还在继续，就解决了不会因为问题的变多，显存沾满，程序崩了，想问下，moss是怎么处理的，具体怎么做的，有清楚的吗，谢谢
- 主要言語
- Python
- スター
- 12.3k
- フォーク
- 1.1k
- PR マージ指標
- 30日以内にマージされた PR はありません
環境構築
このプロジェクトには開発コンテナ、Dockerfile、コントリビューションガイドがありません。まず README を読み、一般的な手順ははじめてのコントリビューションガイドを参照してください。
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
OpenMOSS/MOSS のほかの issue
-
windows的生成速度真的慢到令人发指オープン
難易度 4/5 3〜5日 初心者へのやさしさ 38/100
-
version?オープン
難易度 4/5 3〜5日 初心者へのやさしさ 20/100
-
難易度 3/5 1〜2日 初心者へのやさしさ 30/100
-
moss为什么不更新了オープン
難易度 5/5 1週間以上 初心者へのやさしさ 10/100
-
難易度 3/5 1〜2日 初心者へのやさしさ 35/100
似ている issue
-
Link Checker Reportオープンautomated issue linkchecker report
難易度 2/5 1〜3時間 初心者へのやさしさ 66/100
QuantEcon/lecture-python.myst#1098 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
podly-pure-podcasts/podly_pure_podcasts#279 ·
メンテナーはふだん 1 日以内に返信
-
template-proposal
難易度 1/5 1時間未満 初心者へのやさしさ 78/100
-
難易度 1/5 1時間未満 初心者へのやさしさ 82/100
OpenShot/openshot-qt#6230 ·
メンテナーはふだん 1 日以内に返信