Hacktoberfest 2026:メンテナが10月に向けて印を付けた、オープンで初心者向けの issue。 Hacktoberfest の issue を見る

Efficient Triton Kernels for LLM Training

linkedin/Liger-Kernel は初心者に優しい?

直近 30 日間に、linkedin/Liger-Kernel は外部コントリビューターの PR 43 件のうち 20 件をマージしました。メンテナーはふだん 1 日以内に返信します。 初心者向けの issue が現在 2 件オープンです。

スター
6.6k
フォーク
603
オープンの初心者向け issue
2
索引済み issue
114
平均マージ
3日 10時間
マージ済み PR(30日)
43
主要言語
Python
ライセンス
BSD-2-Clause
最終 GitHub push
2026年9月18日
最新の索引
2026年9月19日
コントリビューションガイド
コントリビューションガイド
行動規範
行動規範がありません
初心者向けラベル
help wanted good first issue

linkedin/Liger-Kernel にコントリビュートするには

  1. まずコントリビューションガイドを読みましょう。変更の提案、テスト、レビューの進め方が書かれています。
  2. あなたのコントリビュートはプロジェクトの BSD-2-Clause ライセンスで公開されます。
  3. 下にある 2 件の初心者向けのオープンな issue から 1 つ選び、作業を始める前に取り組みたいとコメントしましょう。
issue を読み込んでいます

誰かが対応中かもしれないイシューは最後に並べています。 すべて日付順に表示

  • [Megatron] apply_liger_kernel_to_megatron(cross_entropy=True) does not reach Megatron's CE call sites
    オープン

    難易度 4/5 3〜5日 初心者へのやさしさ 52/100

    linkedin/Liger-Kernel#1485 ·

    メンテナーはふだん 1 日以内に返信

  • [NPU] Track reverting Ascend Atlas 950 workarounds after triton-ascend upstream fixes (#1464)
    オープン

    難易度 5/5 1週間以上 初心者へのやさしさ 35/100

    linkedin/Liger-Kernel#1481 ·

    メンテナーはふだん 1 日以内に返信

  • JSD kernel returns NaN for interior beta when a vocabulary entry underflows under both distributions
    オープン

    難易度 3/5 1〜2日 初心者へのやさしさ 76/100

    linkedin/Liger-Kernel#1453 ·

    メンテナーはふだん 1 日以内に返信

  • [RFC] Migrate Nvidia CI from Modal to HF Jobs
    オープン

    難易度 5/5 1週間以上 初心者へのやさしさ 25/100

    linkedin/Liger-Kernel#1393 ·

    メンテナーはふだん 1 日以内に返信

  • [RFC] Testing Methodology for FP32 Convergence Tests on Fused SwiGLU/dSwiGLU Kernels
    オープン

    難易度 5/5 1週間以上 初心者へのやさしさ 35/100

    linkedin/Liger-Kernel#1383 · リアクション 1 件 ·

    メンテナーはふだん 1 日以内に返信

  • Add Liger kernels + FLCE `token_accuracy` plumbing for Muse Glimmer (`muse_glimmer`)
    再び着手できるかも @buffett0323 が 46 日前に担当しましたが、オープン中のプルリクエストはありません。 オープン

    linkedin/Liger-Kernel#1378 · コメント 2 件 · リアクション 1 件 · 担当者 1 名 ·

    メンテナーはふだん 1 日以内に返信

  • [RFC] Full-pipeline SwiGLU MLP with forward/backward co-optimization
    オープン

    難易度 5/5 1週間以上 初心者へのやさしさ 30/100

    linkedin/Liger-Kernel#1347 · コメント 6 件 · リアクション 1 件 ·

    メンテナーはふだん 1 日以内に返信

  • [B300/SM103] Compiled Liger SwiGLU is ~3.1x slower than torch.compile for a Qwen3-shaped BF16 tensor
    オープン

    難易度 4/5 3〜5日 初心者へのやさしさ 48/100

    linkedin/Liger-Kernel#1330 · コメント 2 件 ·

    メンテナーはふだん 1 日以内に返信

  • `torch.compile` fails with FLCE due to `aten.addmm.dtype_out` overload
    オープン

    難易度 4/5 3〜5日 初心者へのやさしさ 45/100

    linkedin/Liger-Kernel#1327 ·

    メンテナーはふだん 1 日以内に返信

  • Reduce FLCE weight-gradient allocation overhead across FP16, BF16, and FP32
    オープン

    難易度 4/5 3〜5日 初心者へのやさしさ 52/100

    linkedin/Liger-Kernel#1323 ·

    メンテナーはふだん 1 日以内に返信

  • Support GMPO Chunked loss
    オープン

    難易度 5/5 1週間以上 初心者へのやさしさ 45/100

    linkedin/Liger-Kernel#1315 · コメント 1 件 ·

    メンテナーはふだん 1 日以内に返信

  • Support Gemma 4 Unified (`gemma4_unified`) — kernel patching + fused linear cross-entropy
    オープン

    難易度 4/5 3〜5日 初心者へのやさしさ 57/100

    linkedin/Liger-Kernel#1308 ·

    メンテナーはふだん 1 日以内に返信

  • Triton kernels can launch on the wrong GPU with multi-GPU inputs
    オープン

    難易度 3/5 1〜2日 初心者へのやさしさ 65/100

    linkedin/Liger-Kernel#1303 · コメント 1 件 · リアクション 2 件 ·

    メンテナーはふだん 1 日以内に返信

  • Fused MoE kernels crash on Qwen3.5-397B (int32 offset overflow)
    オープン

    難易度 4/5 3〜5日 初心者へのやさしさ 48/100

    linkedin/Liger-Kernel#1296 · コメント 1 件 · リアクション 2 件 ·

    メンテナーはふだん 1 日以内に返信

  • Add Qwen2.5-Omni support
    オープン

    難易度 5/5 1週間以上 初心者へのやさしさ 25/100

    linkedin/Liger-Kernel#1295 · コメント 1 件 ·

    メンテナーはふだん 1 日以内に返信

  • Feature Request: Add THD / Packed-Sequence Training Support
    オープン

    難易度 5/5 1週間以上 初心者へのやさしさ 28/100

    linkedin/Liger-Kernel#1281 · コメント 2 件 ·

    メンテナーはふだん 1 日以内に返信

  • Suggestion: per-kernel roofline/bandwidth-efficiency benchmarks in docs
    オープン

    難易度 4/5 3〜5日 初心者へのやさしさ 48/100

    linkedin/Liger-Kernel#1272 · コメント 1 件 ·

    メンテナーはふだん 1 日以内に返信

  • LigerORPOTrainer doesn't work when not using FSDP
    オープン

    難易度 3/5 1〜2日 初心者へのやさしさ 65/100

    linkedin/Liger-Kernel#1229 · コメント 1 件 ·

    メンテナーはふだん 1 日以内に返信

  • Add fused Modulated RMSNorm for DiT-style scale/shift conditioning
    オープン

    難易度 5/5 1週間以上 初心者へのやさしさ 45/100

    linkedin/Liger-Kernel#1224 · コメント 5 件 ·

    メンテナーはふだん 1 日以内に返信

  • [RFC] Add Monitoring Interface for External Logging Backends
    オープン

    難易度 5/5 1週間以上 初心者へのやさしさ 30/100

    linkedin/Liger-Kernel#1213 · コメント 3 件 ·

    メンテナーはふだん 1 日以内に返信

  • [New backend] cuTile backend for Liger kernels — performance data on B200 + integration interest
    オープン

    難易度 5/5 1週間以上 初心者へのやさしさ 25/100

    linkedin/Liger-Kernel#1205 · コメント 1 件 · リアクション 4 件 ·

    メンテナーはふだん 1 日以内に返信

  • Gemma4 text model support
    オープン

    難易度 4/5 3〜5日 初心者へのやさしさ 35/100

    linkedin/Liger-Kernel#1186 · コメント 5 件 · リアクション 5 件 ·

    メンテナーはふだん 1 日以内に返信

  • Glm4vConfig object has no attribute 'hidden_size'
    オープン

    難易度 4/5 3〜5日 初心者へのやさしさ 35/100

    linkedin/Liger-Kernel#1152 · コメント 1 件 ·

    メンテナーはふだん 1 日以内に返信

  • LigerFusedLinearGRPOLoss produces ~100x larger grad_norm than TRL's non-Liger-Kernel path due to missing vLLM IS correction and other differences
    オープン

    難易度 5/5 1週間以上 初心者へのやさしさ 42/100

    linkedin/Liger-Kernel#1082 · コメント 11 件 · リアクション 1 件 ·

    メンテナーはふだん 1 日以内に返信

  • Skip dW/dB computation in norm ops when weight/bias is frozen (LoRA/PEFT optimization)
    オープン

    難易度 4/5 3〜5日 初心者へのやさしさ 48/100

    linkedin/Liger-Kernel#1067 · コメント 1 件 · リアクション 1 件 ·

    メンテナーはふだん 1 日以内に返信

  • [RFC] Standardized Model Config for Benchmarks
    オープン

    難易度 5/5 1週間以上 初心者へのやさしさ 25/100

    linkedin/Liger-Kernel#1051 · コメント 6 件 ·

    メンテナーはふだん 1 日以内に返信

  • Compatibility issue between liger-kernel and zero3: The size of tensor a (0) must match the size of tensor b (4096) at non-singleton dimension 1
    オープン

    難易度 4/5 3〜5日 初心者へのやさしさ 35/100

    linkedin/Liger-Kernel#1048 · コメント 1 件 · リアクション 1 件 ·

    メンテナーはふだん 1 日以内に返信

  • [NPU] Improve the performance of the embedding for NPU
    オープン

    難易度 5/5 1週間以上 初心者へのやさしさ 25/100

    linkedin/Liger-Kernel#1036 ·

    メンテナーはふだん 1 日以内に返信

  • Fatal Python error when using Liger Kernel with Qwen-VL fine-tuning: `none_dealloc: deallocating None` at step ~875
    オープン

    難易度 5/5 1週間以上 初心者へのやさしさ 25/100

    linkedin/Liger-Kernel#975 · コメント 1 件 ·

    メンテナーはふだん 1 日以内に返信

  • [NPU Roadmap, Updated to 2026-Q2] NPU support for Liger-Kernel
    オープン

    難易度 5/5 1週間以上 初心者へのやさしさ 25/100

    linkedin/Liger-Kernel#969 · コメント 32 件 · リアクション 17 件 ·

    メンテナーはふだん 1 日以内に返信

  • Moe kernel for latest transformers v5
    再び着手できるかも @Ramshankar07 が 247 日前に担当しましたが、オープン中のプルリクエストはありません。 オープン

    linkedin/Liger-Kernel#958 · コメント 4 件 · リアクション 5 件 · 担当者 1 名 ·

    メンテナーはふだん 1 日以内に返信

  • [Feature Request] Add SwiGLU support for Qwen3-VL models
    オープン

    難易度 4/5 3〜5日 初心者へのやさしさ 48/100

    linkedin/Liger-Kernel#956 · コメント 1 件 · リアクション 1 件 ·

    メンテナーはふだん 1 日以内に返信

  • [RFC] Native Ascend NPU Support for Liger Kernel
    オープン

    難易度 5/5 1週間以上 初心者へのやさしさ 25/100

    linkedin/Liger-Kernel#954 · コメント 2 件 · リアクション 24 件 ·

    メンテナーはふだん 1 日以内に返信

  • Add GLM-4.5 MoE
    オープン

    難易度 4/5 3〜5日 初心者へのやさしさ 35/100

    linkedin/Liger-Kernel#951 · コメント 1 件 · リアクション 1 件 ·

    メンテナーはふだん 1 日以内に返信

  • 0.6.3 can not find unpack_cross_entropy_result in liger_kernel.transformers.model.loss_utils
    オープン

    難易度 3/5 1〜2日 初心者へのやさしさ 25/100

    linkedin/Liger-Kernel#944 · コメント 1 件 ·

    メンテナーはふだん 1 日以内に返信

  • [Question] No gain in VRAM usage with LigerFusedLinearCrossEntropyLoss
    オープン

    難易度 4/5 3〜5日 初心者へのやさしさ 35/100

    linkedin/Liger-Kernel#941 · コメント 3 件 ·

    メンテナーはふだん 1 日以内に返信

  • Another MLP implementation along with multiplier support
    オープン

    難易度 5/5 1週間以上 初心者へのやさしさ 35/100

    linkedin/Liger-Kernel#937 · コメント 3 件 ·

    メンテナーはふだん 1 日以内に返信

  • Investigate Helion for kernel authoring/tuning
    オープン

    難易度 5/5 1週間以上 初心者へのやさしさ 25/100

    linkedin/Liger-Kernel#923 · コメント 3 件 · リアクション 1 件 ·

    メンテナーはふだん 1 日以内に返信

  • Check if cross entropy is applied correctly in all monkey patch functions
    オープン

    難易度 4/5 3〜5日 初心者へのやさしさ 45/100

    linkedin/Liger-Kernel#920 · コメント 1 件 ·

    メンテナーはふだん 1 日以内に返信

  • FusedLinearCrossEntropy got illegal memory access issue with triton 3.5.0 and PyTorch 2.9
    オープン

    難易度 4/5 3〜5日 初心者へのやさしさ 25/100

    linkedin/Liger-Kernel#916 · コメント 3 件 ·

    メンテナーはふだん 1 日以内に返信

  • Support for Qwen3-VL models
    再び着手できるかも @mayankagarwals が 346 日前に担当しましたが、オープン中のプルリクエストはありません。 オープン
    high-priority

    linkedin/Liger-Kernel#897 · コメント 16 件 · リアクション 14 件 · 担当者 1 名 ·

    メンテナーはふだん 1 日以内に返信

  • TiledMLP
    オープン
    help wanted

    難易度 5/5 1週間以上 初心者へのやさしさ 30/100

    linkedin/Liger-Kernel#893 · コメント 13 件 · リアクション 1 件 ·

    メンテナーはふだん 1 日以内に返信

  • 【FLCE】the bias in the previous layer
    オープン

    難易度 2/5 1〜3時間 初心者へのやさしさ 45/100

    linkedin/Liger-Kernel#891 ·

    メンテナーはふだん 1 日以内に返信

  • Support PyTorch Tensor Parallelism
    再び着手できるかも @kolehma8 が 287 日前に担当しましたが、オープン中のプルリクエストはありません。 オープン

    linkedin/Liger-Kernel#868 · 担当者 1 名 ·

    メンテナーはふだん 1 日以内に返信

  • Multi-token attention
    オープン

    難易度 5/5 1週間以上 初心者へのやさしさ 25/100

    linkedin/Liger-Kernel#857 ·

    メンテナーはふだん 1 日以内に返信

  • [QnA]: Why `cos` and `sin` is expected to be `hdim`, not `hdim//2`?
    オープン
    question

    難易度 4/5 3〜5日 初心者へのやさしさ 25/100

    linkedin/Liger-Kernel#844 · コメント 3 件 ·

    メンテナーはふだん 1 日以内に返信

  • fused_linear_cross_entropy caused bad performance
    オープン

    難易度 4/5 3〜5日 初心者へのやさしさ 35/100

    linkedin/Liger-Kernel#827 · リアクション 4 件 ·

    メンテナーはふだん 1 日以内に返信

  • Tensor Parallel support
    再び着手できるかも @vaibhavjindal が 307 日前に担当しましたが、オープン中のプルリクエストはありません。 オープン
    high-priority

    linkedin/Liger-Kernel#826 · コメント 1 件 · 担当者 1 名 ·

    メンテナーはふだん 1 日以内に返信

  • Add support for the LFM2 model
    オープン

    難易度 5/5 1週間以上 初心者へのやさしさ 25/100

    linkedin/Liger-Kernel#819 ·

    メンテナーはふだん 1 日以内に返信

  • what is the difference between Triton code written for Liger kernels and generated by torch.compile
    オープン

    難易度 3/5 1〜2日 初心者へのやさしさ 25/100

    linkedin/Liger-Kernel#814 ·

    メンテナーはふだん 1 日以内に返信

最新の 100 件のみ表示しています

このページには最近登録されたものだけが並びます。全件は詳細フィルターにあり、言語・難易度・所要時間で絞り込めます。

詳細フィルターへ

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。