Official float32 inference for seedvr2_ema_7b.pth

オープン
#65 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

まだ誰も着手していません。

評価

難易度
4/5
見積もり時間
3〜5日
初心者へのやさしさ
45/100
issue の種類
機能追加
明瞭さ
おおむね明確
活発さ
活発
技術スタック
python, pytorch

調査の方向性

Start with projects/inference_seedvr2_7b.py and configs_7b/main.yaml, then trace how seedvr2_ema_7b.pth and ema_vae.pth are loaded and how torch.autocast and VAE dtype settings affect inference. Done means an official float32 configuration and command are documented for both models, with no weight or activation dtype conversion.

索引モデルが issue の本文から書いたものです。

説明

Request: official float32 inference path for seedvr2_ema_7b.pth.

The public 7B apply script (projects/inference_seedvr2_7b.py) loads seedvr2_ema_7b.pth then runs torch.autocast("cuda", torch.bfloat16). configs_7b/main.yaml sets VAE dtype to bfloat16.

Will you publish an official lossless float32 inference config and command for the original seedvr2_ema_7b.pth (no dtype cast on weights or activations), including VAE ema_vae.pth in float32?

in simpler terms: I use the original seedvr2_ema_7b.pth.

Your public 7B script loads that file but then runs the calculations in bfloat16, not full 32-bit. The VAE is also set to bfloat16.

Please publish an official way to run seedvr2_ema_7b.pth and ema_vae.pth in full 32-bit, with no conversion of the weights or the math.

Thank you.

主要言語
Python
スター
1.4k
フォーク
89
PR マージ指標
30日以内にマージされた PR はありません

環境構築

このプロジェクトには開発コンテナ、Dockerfile、コントリビューションガイドがありません。まず README を読み、一般的な手順ははじめてのコントリビューションガイドを参照してください。

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

ByteDance-Seed/SeedVR のほかの issue

ByteDance-Seed/SeedVR の issue をすべて見る

似ている issue

Python の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。