How to integrate to transformers-based mixtral
まだ誰も着手していません。
評価
- 難易度
- 5/5
- 見積もり時間
- 1週間以上
- 初心者へのやさしさ
- 20/100
- issue の種類
- 機能追加
- 明瞭さ
- 説明が足りない
- 活発さ
- 停滞
- 技術スタック
- huggingface, python
調査の方向性
transformers' src/transformers/models/mixtral/modeling_mixtral.py の MixtralSparseMoeBlock から始め、そのインターフェースを megablocks' dmoe.dMoE と比較します。issue にはテストもプロジェクトのエントリポイントも記載されていないため、完了には、互換性のある設定と検証を含む、確認済みの最小限の統合パスが必要です。
索引モデルが issue の本文から書いたものです。
説明
Hi, this is awesome work. I'm wondering if there is a minimal way to integrate megablocks into transformers codebase for the mixtral architecture?
Would simply replacing the MixtralSparseMoeBlock with dmoe.dMoE with proper configuration works?
# from transformers
class MixtralDecoderLayer(nn.Module):
def __init__(self, config: MixtralConfig, layer_idx: int):
super().__init__()
self.hidden_size = config.hidden_size
self.self_attn = MIXTRAL_ATTENTION_CLASSES[config._attn_implementation](config, layer_idx)
self.block_sparse_moe = MixtralSparseMoeBlock(config)
....
Thanks!
- 主要言語
- Python
- スター
- 1.6k
- フォーク
- 228
- PR マージ指標
- 30日以内にマージされた PR はありません
環境構築
- Dockerfile または Docker Compose ファイルあり
- プルリクエストのテンプレートあり
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
databricks/megablocks のほかの issue
-
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
databricks/megablocks#188 · コメント 2 件 ·
-
難易度 5/5 1週間以上 初心者へのやさしさ 20/100
databricks/megablocks#184 ·
-
難易度 3/5 1〜2日 初心者へのやさしさ 30/100
databricks/megablocks#180 · コメント 1 件 ·
-
難易度 5/5 1週間以上 初心者へのやさしさ 20/100
databricks/megablocks#179 ·
-
難易度 3/5 1〜2日 初心者へのやさしさ 35/100
databricks/megablocks#178 · コメント 1 件 ·
databricks/megablocks の issue をすべて見る
似ている issue
-
README.zh-CN/ja/es still hard-code 501 test counts after README.md went count-free対応中かも @Aaqibhafeezkhan が今日担当しました。 オープンbeginner documentation good first issue
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
BistaDinesh03/critique#164 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
bug IO
難易度 2/5 1〜3時間 初心者へのやさしさ 65/100
MrNeRF/LichtFeld-Studio#3824 ·
メンテナーはふだん 1 日以内に返信
-
bug confirmed issue
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
open-webui/open-webui#33200 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
難易度 1/5 1時間未満 初心者へのやさしさ 72/100
-
The changelog workflow excludes otelbot but not dependabot, so every Dependabot pull request fails the changelog check対応中かも @ocelotl が今日担当しました。 オープン
難易度 1/5 1時間未満 初心者へのやさしさ 82/100
open-telemetry/opentelemetry-python#5825 ·
メンテナーはふだん 2 日以内に返信