ServiceNow/Fast-LLM

登入後關注

在 GitHub 檢視

Accelerating your LLM training to full speed! Made with ❤️ by ServiceNow Research

ServiceNow/Fast-LLM 對新手友好嗎？

近期外部貢獻者向 ServiceNow/Fast-LLM 提交的 PR 還不夠多，暫時無法判斷它們被合併的比例。目前沒有開放的新手友好 issue，下方列出了我們收錄的該儲存庫的其他 issue。

星號: 337
分支: 52
開放的新手 issue: 0
已索引 issue: 50

主要語言: Python
授權條款: 沒有授權條款資料
最近 GitHub push: 2026年7月20日
最近索引: 2026年10月16日
貢獻指南: 貢獻指南
行為準則: 行為準則
新手標籤: help wanted
PR 合併指標: 30 天內沒有已合併 PR

如何為 ServiceNow/Fast-LLM 做貢獻

先讀貢獻指南：它說明了維護者希望如何提出、測試和審查變更。
專案提供 Dockerfile 或 Docker Compose 檔案，不必安裝整套工具鏈就能跑起來。
讀一下行為準則：它同樣適用於 issue 和 PR，而不只是聊天。
追蹤這個儲存庫，有新的新手友好 issue 時就能知道；也可以看看下方的其他 issue。

適合新手全部

未關閉全部

可能已有人在做的 issue 排在最後。全部依時間排序

GSPO sequence-parallel (SDP/SP) paths are untested (loss + metrics)
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 25/100

ServiceNow/Fast-LLM#556 · 2026年7月8日建立
Validation loss via LossEvaluator logs 0 (head skips loss computation in eval mode)
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 30/100

ServiceNow/Fast-LLM#538 · 2026年6月11日建立
Engine support for concatenated weights with per-sub-parameter configuration
未關閉
- 哪裡不對？
enhancement

難度 5/5 一週以上新手友好度 12/100

ServiceNow/Fast-LLM#533 · 2026年6月4日建立
Lazy micro-batch input preparation in the schedule runner
未關閉
- 哪裡不對？
難度 5/5 一週以上新手友好度 15/100

ServiceNow/Fast-LLM#510 · 1 則留言 · 2026年5月6日建立
Monolithic fused head-loss kernel for combinable losses + metrics
未關閉
- 哪裡不對？
難度 5/5 一週以上新手友好度 12/100

ServiceNow/Fast-LLM#507 · 2026年5月5日建立
feat: add tensor-parallel entropy loss benchmark
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 25/100

ServiceNow/Fast-LLM#500 · 2026年4月29日建立
perf: Triton normalization backward underperforms apex at wide hidden dimensions
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 25/100

ServiceNow/Fast-LLM#499 · 2026年4月29日建立
[bug] Can't compile varlen mamba with base image 25.11
未關閉
- 哪裡不對？
bug

難度 3/5 1-2 天新手友好度 30/100

ServiceNow/Fast-LLM#416 · 2 則留言 · 2025年12月11日建立
Add torch fallbacks for KDA and GDN layers.
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 30/100

ServiceNow/Fast-LLM#406 · 2025年12月8日建立
[bug] Unable to freeze specific layers of a pretrained model
可能重新可做 @jlamypoirier 於 338 天前認領，目前沒有進行中的 PR。未關閉
- 哪裡不對？
bug

ServiceNow/Fast-LLM#394 · 2 則留言 · 已指派 1 人 · 2025年11月25日建立
[bug] Possible Conversion issue with Hybrid Mamba 2
未關閉
- 哪裡不對？
bug Critical

難度 4/5 3-5 天新手友好度 22/100

ServiceNow/Fast-LLM#380 · 2025年10月17日建立
Reference-model is slow on long sequences, especially with TP>1
未關閉
- 哪裡不對？
need update

難度 5/5 一週以上新手友好度 15/100

ServiceNow/Fast-LLM#353 · 2 則留言 · 2025年8月14日建立
Add test for MTP-add-heads script
可能重新可做 @RaymondLi0 於 504 天前認領，目前沒有進行中的 PR。未關閉
- 哪裡不對？
ServiceNow/Fast-LLM#300 · 已指派 1 人 · 2025年6月12日建立
Reduce Memory Usage During Inference
未關閉
- 哪裡不對？
enhancement need update

難度 5/5 一週以上新手友好度 12/100

ServiceNow/Fast-LLM#298 · 2 則留言 · 2025年6月12日建立
Evaluate Command: Config Design and Functionality for Non-Training Model Evaluation
未關閉
- 哪裡不對？
enhancement need update

難度 5/5 一週以上新手友好度 15/100

ServiceNow/Fast-LLM#285 · 2025年6月4日建立
Support additional evaluation frameworks
未關閉
- 哪裡不對？
enhancement need update

難度 5/5 一週以上新手友好度 12/100

ServiceNow/Fast-LLM#283 · 1 則留言 · 1 個 reaction · 2025年6月2日建立
Support generation with caching for SSMs and SSM–Transformer hybrids.
未關閉
- 哪裡不對？
enhancement need update

難度 5/5 一週以上新手友好度 8/100

ServiceNow/Fast-LLM#280 · 1 則留言 · 1 個 reaction · 2025年6月2日建立
Speed up inference performance for attention and ssm layers with caching
可能重新可做 @bigximik 於 486 天前認領，目前沒有進行中的 PR。未關閉
- 哪裡不對？
enhancement need update

ServiceNow/Fast-LLM#279 · 1 個 reaction · 已指派 1 人 · 2025年6月2日建立
Support sequence data parallelism during generation
未關閉
- 哪裡不對？
enhancement need update

難度 5/5 一週以上新手友好度 8/100

ServiceNow/Fast-LLM#278 · 1 則留言 · 2025年6月2日建立
[bug] Generate test occasionally fails
可能重新可做 @bigximik 於 525 天前認領，目前沒有進行中的 PR。未關閉
- 哪裡不對？
bug need update

ServiceNow/Fast-LLM#274 · 已指派 1 人 · 2025年5月22日建立
Support chat template in `prepare`
可能重新可做 @shruthan 於 534 天前認領，目前沒有進行中的 PR。未關閉
- 哪裡不對？
enhancement

ServiceNow/Fast-LLM#262 · 已指派 1 人 · 2025年5月12日建立
Elastic training
可能重新可做 @jlamypoirier 於 553 天前認領，目前沒有進行中的 PR。未關閉
- 哪裡不對？
enhancement

ServiceNow/Fast-LLM#241 · 8 則留言 · 已指派 1 人 · 2025年4月24日建立
Simplify config validation
未關閉
- 哪裡不對？
enhancement help wanted

難度 5/5 一週以上新手友好度 12/100

ServiceNow/Fast-LLM#232 · 2 則留言 · 2025年4月15日建立
Reset Number of Steps in WandB to the Latest Saved Checkpoint or Implement Distinguishable Experiment Run Logging in WandB
未關閉
- 哪裡不對？
enhancement need update

難度 4/5 3-5 天新手友好度 18/100

ServiceNow/Fast-LLM#215 · 2025年3月31日建立
Move Config Validations (e.g., Dataset Usage vs. Definitions) to `_validate` for Dry Run Checks
未關閉
- 哪裡不對？
enhancement need update

難度 4/5 3-5 天新手友好度 35/100

ServiceNow/Fast-LLM#213 · 1 則留言 · 2025年3月28日建立
Prototype masked diffusion modeling support
可能重新可做 @gopeshh 於 580 天前認領，目前沒有進行中的 PR。未關閉
- 哪裡不對？
enhancement

ServiceNow/Fast-LLM#208 · 已指派 1 人 · 2025年3月26日建立
Add converter for Hugging Face peft (LoRA)
未關閉
- 哪裡不對？
enhancement

難度 4/5 3-5 天新手友好度 35/100

ServiceNow/Fast-LLM#204 · 2025年3月25日建立
Discussion about dataset preparation speed
未關閉
- 哪裡不對？
enhancement need update

難度 5/5 一週以上新手友好度 15/100

ServiceNow/Fast-LLM#202 · 2 則留言 · 2025年3月25日建立
Support easy concatenation of datasets
未關閉
- 哪裡不對？
enhancement need update

難度 4/5 3-5 天新手友好度 22/100

ServiceNow/Fast-LLM#201 · 1 則留言 · 2025年3月24日建立
Online dataset mixing based on validation metrics
未關閉
- 哪裡不對？
enhancement need update

難度 5/5 一週以上新手友好度 8/100

ServiceNow/Fast-LLM#200 · 1 則留言 · 2025年3月24日建立
Nemotron-H support
未關閉
- 哪裡不對？
enhancement need update

難度 5/5 一週以上新手友好度 5/100

ServiceNow/Fast-LLM#198 · 2025年3月23日建立
Per-example & Phatgoose routing
未關閉
- 哪裡不對？
enhancement

難度 4/5 3-5 天新手友好度 25/100

ServiceNow/Fast-LLM#181 · 1 個 reaction · 2025年3月10日建立
Add end-to-end test for dataset preparation
未關閉
- 哪裡不對？
enhancement

難度 3/5 1-2 天新手友好度 35/100

ServiceNow/Fast-LLM#175 · 2025年3月7日建立
Expert Parallelism for MoEs
未關閉
- 哪裡不對？
enhancement need update

難度 5/5 一週以上新手友好度 8/100

ServiceNow/Fast-LLM#165 · 1 則留言 · 2025年2月27日建立
Add features for Qwen2_moe support
未關閉
- 哪裡不對？
enhancement

難度 4/5 3-5 天新手友好度 22/100

ServiceNow/Fast-LLM#164 · 2025年2月27日建立
Muon Optimizer Integration
未關閉
- 哪裡不對？
enhancement need update

難度 5/5 一週以上新手友好度 8/100

ServiceNow/Fast-LLM#159 · 1 則留言 · 1 個 reaction · 2025年2月24日建立
Option to vary configuration parameters across layers
可能重新可做 @jlamypoirier 於 603 天前認領，目前沒有進行中的 PR。未關閉
- 哪裡不對？
enhancement

ServiceNow/Fast-LLM#155 · 1 則留言 · 已指派 1 人 · 2025年2月19日建立
[feat] Staged training
未關閉
- 哪裡不對？
enhancement

難度 5/5 一週以上新手友好度 12/100

ServiceNow/Fast-LLM#151 · 1 個 reaction · 2025年2月19日建立
[feat] Add a validation step at the beginning of training
未關閉
- 哪裡不對？
enhancement

難度 3/5 1-2 天新手友好度 25/100

ServiceNow/Fast-LLM#134 · 1 個 reaction · 2025年1月28日建立
[feat] Generalize dynamic config classes
可能重新可做 @jlamypoirier 於 540 天前認領，目前沒有進行中的 PR。未關閉
- 哪裡不對？
enhancement

ServiceNow/Fast-LLM#126 · 5 則留言 · 已指派 1 人 · 2025年1月22日建立
[doc] Document the data machinery
未關閉
- 哪裡不對？
documentation

難度 4/5 3-5 天新手友好度 22/100

ServiceNow/Fast-LLM#124 · 1 則留言 · 2025年1月22日建立
[feat] Add data cleaning in `fast-llm prepare`
可能重新可做 @bigximik 於 584 天前認領，目前沒有進行中的 PR。未關閉
- 哪裡不對？
enhancement need update

ServiceNow/Fast-LLM#112 · 3 則留言 · 已指派 1 人 · 2025年1月14日建立
[doc] Improve the Checkpoint Conversion Guide for Practical Usability
未關閉
- 哪裡不對？
documentation

難度 3/5 1-2 天新手友好度 38/100

ServiceNow/Fast-LLM#111 · 1 則留言 · 2025年1月9日建立
[doc] Benchmark Fast-LLM Pretraining Throughput Against Contemporary Frameworks
可能重新可做 @hughesthe1st 於 653 天前認領，目前沒有進行中的 PR。未關閉
- 哪裡不對？
epic

ServiceNow/Fast-LLM#108 · 1 則留言 · 已指派 2 人 · 2025年1月8日建立
[doc] Automate MkDocs Documentation for Fast-LLM Configuration Options
可能重新可做 @tscholak 於 659 天前認領，目前沒有進行中的 PR。未關閉
- 哪裡不對？
documentation

ServiceNow/Fast-LLM#107 · 已指派 1 人 · 2025年1月8日建立
[feat] Track Exact Fast-LLM Version in Training Outputs and wandb Logs
未關閉
- 哪裡不對？
enhancement need update Priority

難度 3/5 1-2 天新手友好度 35/100

ServiceNow/Fast-LLM#101 · 2 則留言 · 2024年12月31日建立
[bug] Conversion fails when using `layers_per_step` with some input formats
未關閉
- 哪裡不對？
bug need update

難度 4/5 3-5 天新手友好度 22/100

ServiceNow/Fast-LLM#87 · 1 則留言 · 2024年12月4日建立
[feat] Data lineage tracking in `metadata.yaml`
可能重新可做 @chrish42 於 703 天前認領，目前沒有進行中的 PR。未關閉
- 哪裡不對？
enhancement need update

ServiceNow/Fast-LLM#67 · 2 則留言 · 已指派 1 人 · 2024年11月25日建立
[feat] FP8 training
未關閉
- 哪裡不對？
enhancement need update

難度 5/5 一週以上新手友好度 8/100

ServiceNow/Fast-LLM#63 · 4 則留言 · 2024年11月22日建立
Speed up checkpoint serialization
可能重新可做 @jlamypoirier 於 734 天前認領，目前沒有進行中的 PR。未關閉
- 哪裡不對？
enhancement need update

ServiceNow/Fast-LLM#26 · 3 則留言 · 已指派 1 人 · 2024年10月25日建立

ServiceNow/Fast-LLM

ServiceNow/Fast-LLM 對新手友好嗎？

如何為 ServiceNow/Fast-LLM 做貢獻

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

把新 issue 寄到你的電子郵件信箱