Add converter for Hugging Face peft (LoRA)
まだ誰も着手していません。
評価
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 初心者へのやさしさ
- 35/100
- issue の種類
- 機能追加
- 明瞭さ
- おおむね明確
- 活発さ
- 停滞
- 技術スタック
- huggingface, python
調査の方向性
Start from the existing ExternalStateDictCheckpointHandler machinery the issue points to, and from the GPT converter it would extend. Read how current external converters import and export configs and weights, then add a PEFT adapter converter. Done means an exported LoRA adapter loads with PeftModel.from_pretrained and imports back. The issue does not name exact files, so confirm the converter layout first.
索引モデルが issue の本文から書いたものです。
説明
🎯 Goal (What & Why)
Follow-up to #149, #180. We want to allow converting to/from Hugging Face PEFT adapter format, i.e. so exported LoRA weights can be used with PeftModel.from_pretrained (https://huggingface.co/docs/peft/en/tutorial/peft_model_config#peft-models). Example: https://huggingface.co/ybelkada/opt-350m-lora/tree/main.
🚀 Execution Plan
Step 1: What is the smallest working version?
- Add a PEFT external converter type that can import/export adapter config and weights. The format is different enough from Huggingface that it can't use the same base class, but we may still be able to reuse the
ExternalStateDictCheckpointHandlermachinery. - Add a specialized converter for GPT LoRA.
Step 2: What additional optimizations are possible (but optional)?
Allow converting both the pretrained model and the adapter.
📌 Acceptance Criteria (Must-Haves for Completion)
- Things work as described above
🛠️ Project Management
- Assign the project to the Fast-LLM project.
- Set the
Estimatefield (in days) in the GitHub project. - Use the
Sizefield to categorize the PR size (Small/Medium/Large). - Assign an owner when opening the issue.
- 主要言語
- Python
- スター
- 337
- フォーク
- 52
- PR マージ指標
- 30日以内にマージされた PR はありません
環境構築
- Dockerfile または Docker Compose ファイルあり
- プルリクエストのテンプレートあり
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
ServiceNow/Fast-LLM のほかの issue
-
難易度 4/5 3〜5日 初心者へのやさしさ 25/100
ServiceNow/Fast-LLM#556 ·
-
難易度 4/5 3〜5日 初心者へのやさしさ 30/100
ServiceNow/Fast-LLM#538 ·
-
enhancement
難易度 5/5 1週間以上 初心者へのやさしさ 12/100
ServiceNow/Fast-LLM#533 ·
-
難易度 5/5 1週間以上 初心者へのやさしさ 15/100
ServiceNow/Fast-LLM#510 · コメント 1 件 ·
-
難易度 5/5 1週間以上 初心者へのやさしさ 12/100
ServiceNow/Fast-LLM#507 ·
ServiceNow/Fast-LLM の issue をすべて見る
似ている issue
-
enhancement
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
glossyio/traffic-monitor#264 ·
メンテナーはふだん 1 日以内に返信
-
Add self-hostオープン
難易度 1/5 1時間未満 初心者へのやさしさ 75/100
Atarity/deploy-your-own-saas#102 ·
-
[Bug]: RDFlex silently drops the covariate adjustment when the outcome or treatment column is integer-typed対応中かも @vrjdev が今日担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
DoubleML/doubleml-for-py#424 ·
メンテナーはふだん 1 日以内に返信
-
agentic-dmx docs enhancement
難易度 1/5 1〜3時間 初心者へのやさしさ 86/100
-
難易度 1/5 1時間未満 初心者へのやさしさ 72/100
521xueweihan/HelloGitHub#4150 ·