[Desktop] weights failed to load: DeepSeek-V4.1-Flash-1017 FP8
メンテナーはふだん 1 日以内に返信
まだ誰も着手していません。
評価
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 初心者へのやさしさ
- 52/100
- issue の種類
- バグ
- 明瞭さ
- おおむね明確
- 活発さ
- 活発
調査の方向性
Start by reproducing the load failure with the linked DeepSeek-V4.1-Flash-1017 checkpoint on Desktop 0.2.0-beta.23 and engine 0.1.3, then inspect the model loading path and the PyTorch PyObjectSlot.h assertion. The report provides no failing test or source file, so trace the complete server log from a reproduction to locate the failing code. Done when the checkpoint loads successfully without the interpreter assertion.
索引モデルが issue の本文から書いたものです。
説明
Before you start
- I have checked the supported models and this checkpoint is not listed there. A listed checkpoint that fails is a bug; use a Bug report instead.
- I have read the Roadmap and this model is not already planned there.
- I have read the FAQ.
- I have searched existing issues and found no duplicate.
- This is not a GGUF checkpoint. GGUF support is on the Roadmap; please do not open an issue for it.
Hugging Face link
https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash-1017
Is the model architecture already supported
Yes, but this checkpoint or quantization does not load
Is the quantization already supported
Not quantized
What happens when you load it
>>>>>>>> PASTE THE FULL SERVER LOG HERE <<<<<<<<
(copied with the "Copy server log" button in the failure dialog, or Logs -> Server status -> Copy)
WeightLoadError: RuntimeError: interpreter INTERNAL ASSERT FAILED at "/home/andrew/Sources/FreeToken/.venv/lib/python3.12/site-packages/torch/include/c10/core/impl/PyObjectSlot.h":30, please report a
Anything else
Desktop 0.2.0-beta.23; engine 0.1.3; NVIDIA RTX 6000D, 83.6 GiB, driver 595.99.02; AMD EPYC 9135 16-Core Processor, 566.4 GiB
- 主要言語
- Python
- スター
- 14.2k
- フォーク
- 1.4k
- 平均マージ
- 21時間 53分
- マージ済み PR（30日）
- 100
環境構築
このプロジェクトには開発コンテナ、Dockerfile、コントリビューションガイドがありません。まず README を読み、一般的な手順ははじめてのコントリビューションガイドを参照してください。
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
FlashML-org/FreeToken のほかの issue
-
Desktop feature
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
FlashML-org/FreeToken#800 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 84/100
FlashML-org/FreeToken#767 ·
メンテナーはふだん 1 日以内に返信
-
test_gemv_path_matches_the_transcription fails on sm_120 (bf16 rounding tie exceeds the tolerance)対応中かも @void-mckenzie が 18 日前に担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 77/100
FlashML-org/FreeToken#649 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
FlashML-org/FreeToken#648 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
FlashML-org/FreeToken#646 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
FlashML-org/FreeToken の issue をすべて見る
似ている issue
-
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
メンテナーはふだん 1 日以内に返信
-
namespace operations
難易度 1/5 1時間未満 初心者へのやさしさ 65/100
EclipseFdn/open-vsx.org#15057 ·
メンテナーはふだん 1 日以内に返信
-
Mission statement: why this is free, in the README, Why This Exists and the wiki Home対応中かも @ChiefGyk3D が今日担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
ChiefGyk3D/Clouds-Against-Humanity#348 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 74/100
vllm-project/vime#508 ·
メンテナーはふだん 4 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
メンテナーはふだん 1 日以内に返信