deepseek-ai/FlashMLA

Ver en GitHub

FlashMLA: Efficient Multi-head Latent Attention Kernels

¿Es deepseek-ai/FlashMLA apto para principiantes?

En los últimos 30 días, deepseek-ai/FlashMLA fusionó 1 de 11 pull requests de colaboradores externos, y sus mantenedores suelen responder en 1 día. Ahora mismo hay 2 issues aptos para principiantes abiertos.

Estrellas: 13.2k
Forks: 1.2k
Issues abiertos para principiantes: 2
Issues indexados: 76
Merge medio: 7 h 19 min
PR fusionados (30 d): 1

Lenguaje dominante: C++
Licencia: MIT
Último push a GitHub: 27/10/2026
Última indexación: 15/9/2026
Guía de contribución: Sin guía de contribución
Código de conducta: Sin código de conducta
Etiquetas para principiantes: Sin etiquetas para principiantes indexadas

Cómo contribuir a deepseek-ai/FlashMLA

No hay guía de contribución, así que empieza por el README y por algunos pull requests fusionados hace poco para ver cómo se proponen los cambios.
Tus contribuciones se publicarán bajo la licencia MIT del proyecto.
Elige uno de los 2 issues abiertos aptos para principiantes de abajo y comenta que quieres trabajar en él antes de empezar.

Para principiantes Todo

Abierto Todos

Las issues en las que quizá ya trabaja alguien aparecen al final. Ordenar todo por fecha

sparse prefill kernel uses `asc_float2bfloat16_rn_v2_impl`, which does not exist in CANN 9.2.0 (README requires 9.2.0+)
Abierto
- ¿Algo no está bien?
Dificultad 2/5 1-3 horas Aptitud para principiantes 52/100

deepseek-ai/FlashMLA#242 · Abierto el 30/10/2026

Los mantenedores suelen responder en 1 día
[Portability][MSVC] Replace __int128_t in shared-memory load/store paths 3
Abierto
- ¿Algo no está bien?
Dificultad 4/5 3-5 días Aptitud para principiantes 55/100

deepseek-ai/FlashMLA#217 · Abierto el 30/8/2026

Los mantenedores suelen responder en 1 día
Sparse MLA decode is not batch-invariant: a row's output depends on its batchmates (1-2 ULP), flipping argmax at near-tie tokens
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 45/100

deepseek-ai/FlashMLA#212 · 1 comentario · Abierto el 21/8/2026

Los mantenedores suelen responder en 1 día
PyBind11 interface: How should function signature and CUDA error handling be handled for registered kernels?
Abierto
- ¿Algo no está bien?
Dificultad 4/5 3-5 días Aptitud para principiantes 35/100

deepseek-ai/FlashMLA#211 · Abierto el 18/8/2026

Los mantenedores suelen responder en 1 día
10 rounds of hand-written fused attention that never beat a 3-kernel cuBLAS stack — trajectory, where each round died, and a correctness trap
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 18/100

deepseek-ai/FlashMLA#210 · Abierto el 7/8/2026

Los mantenedores suelen responder en 1 día
DeepSeek-Coder-V2-Lite-Instruct 16B running locally on an RTX 2050 laptop
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 15/100

deepseek-ai/FlashMLA#206 · Abierto el 3/8/2026

Los mantenedores suelen responder en 1 día
flashmla dense decoding test lack fp8 kv cache case
Abierto
- ¿Algo no está bien?
Dificultad 2/5 1-3 horas Aptitud para principiantes 58/100

deepseek-ai/FlashMLA#204 · Abierto el 3/8/2026

Los mantenedores suelen responder en 1 día
Sparse MLA decode (V3.2 / FP8 KV): throughput cost of the B200 accuracy fix (5aa668c) scales with topk
Abierto
- ¿Algo no está bien?
Dificultad 4/5 3-5 días Aptitud para principiantes 45/100

deepseek-ai/FlashMLA#192 · Abierto el 26/6/2026

Los mantenedores suelen responder en 1 día
flash mla kernal是否支持同一batch下不同query的动态token数？
Abierto
- ¿Algo no está bien?
Dificultad 4/5 3-5 días Aptitud para principiantes 35/100

deepseek-ai/FlashMLA#190 · 1 reacción · Abierto el 17/6/2026

Los mantenedores suelen responder en 1 día
Do you open to add SM80 support
Abierto
- ¿Algo no está bien?
Dificultad 4/5 3-5 días Aptitud para principiantes 35/100

deepseek-ai/FlashMLA#179 · 1 comentario · 2 reacciones · Abierto el 27/4/2026

Los mantenedores suelen responder en 1 día
dual gemm
Abierto
- ¿Algo no está bien?
Dificultad 4/5 3-5 días Aptitud para principiantes 35/100

deepseek-ai/FlashMLA#169 · 3 comentarios · Abierto el 6/3/2026

Los mantenedores suelen responder en 1 día
flash_mla.flash_mla_with_kvcache have plans to support FP8 for the q data in the future or FP8 insufficient to support model accuracy?
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#168 · Abierto el 6/3/2026

Los mantenedores suelen responder en 1 día
[Question]Questions regarding INTERLEAVE vs. SW128 Layouts for SM90 Sparse Attention Decode
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#166 · Abierto el 25/2/2026

Los mantenedores suelen responder en 1 día
[Question] why not using FP8 rope in sparse FP8 decoding?
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#165 · Abierto el 18/2/2026

Los mantenedores suelen responder en 1 día
[Question] What is MODEL1?
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#155 · 7 comentarios · 27 reacciones · Abierto el 21/1/2026

Los mantenedores suelen responder en 1 día
[Question] DSA VS MLA Prefill Benchmark On H100
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#149 · 1 comentario · Abierto el 15/1/2026

Los mantenedores suelen responder en 1 día
FlashMLA for Blackwell architecture (B200)
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#148 · 1 reacción · Abierto el 9/1/2026

Los mantenedores suelen responder en 1 día
does flash_mla_with_kvcache work only in paged mode?
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#126 · Abierto el 16/12/2025

Los mantenedores suelen responder en 1 día
Can MHA be used in the DSA prefill stage?
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100

deepseek-ai/FlashMLA#125 · 1 comentario · 1 reacción · Abierto el 9/12/2025

Los mantenedores suelen responder en 1 día
Sparse Decode Mla kernel opt plan On blcakwell
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 20/100

deepseek-ai/FlashMLA#120 · 1 reacción · Abierto el 9/11/2025

Los mantenedores suelen responder en 1 día
Built FlashMLA for Windows and Nvidia sm_120 (workstation/50s) cards
Abierto
- ¿Algo no está bien?
Dificultad 4/5 3-5 días Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#119 · 3 comentarios · Abierto el 30/10/2025

Los mantenedores suelen responder en 1 día
how to test sparse attention in test_flash_mla_decoding
Abierto
- ¿Algo no está bien?
Dificultad 3/5 1-2 días Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#116 · 1 comentario · Abierto el 24/10/2025

Los mantenedores suelen responder en 1 día
RuntimeError: Sparse BF16 MLA is not supported on SM90
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#110 · Abierto el 14/10/2025

Los mantenedores suelen responder en 1 día
Missing sparse backward kernel.
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#107 · 3 comentarios · Abierto el 9/10/2025

Los mantenedores suelen responder en 1 día
Kronecker factors instead of LoRA?
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#102 · Abierto el 29/9/2025

Los mantenedores suelen responder en 1 día
Partner Listing Request：PaddlePaddle 的 PyTorch C++/Python 接口兼容项目
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 15/100

deepseek-ai/FlashMLA#86 · Abierto el 25/8/2025

Los mantenedores suelen responder en 1 día
Why block_size_n equals page_block_size
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#84 · Abierto el 14/8/2025

Los mantenedores suelen responder en 1 día
pip install -v .
Abierto
- ¿Algo no está bien?
Dificultad 4/5 3-5 días Aptitud para principiantes 30/100

deepseek-ai/FlashMLA#79 · 4 comentarios · Abierto el 5/8/2025

Los mantenedores suelen responder en 1 día
consult questions about lower kv_lora_rank support
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#78 · Abierto el 30/7/2025

Los mantenedores suelen responder en 1 día
Question of O_accum and LSE_accum shape
Abierto
- ¿Algo no está bien?
Dificultad 4/5 3-5 días Aptitud para principiantes 30/100

deepseek-ai/FlashMLA#70 · 1 comentario · Abierto el 7/4/2025

Los mantenedores suelen responder en 1 día
flash_fwd_mla_kernel.h offset calculation 偏移量计算问题
Abierto
- ¿Algo no está bien?
Dificultad 4/5 3-5 días Aptitud para principiantes 30/100

deepseek-ai/FlashMLA#67 · 5 comentarios · Abierto el 11/3/2025

Los mantenedores suelen responder en 1 día
Ampere architecture FlashMLA bring-up
Abierto
- ¿Algo no está bien?
Dificultad 4/5 3-5 días Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#66 · 2 comentarios · 9 reacciones · Abierto el 11/3/2025

Los mantenedores suelen responder en 1 día
Request for Ampere GPU Support in FlashMLA
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#60 · 2 comentarios · Abierto el 3/3/2025

Los mantenedores suelen responder en 1 día
Are the test performance results of tests/test_flash_mla.py accurate?
Abierto
- ¿Algo no está bien?
Dificultad 4/5 3-5 días Aptitud para principiantes 30/100

deepseek-ai/FlashMLA#59 · Abierto el 3/3/2025

Los mantenedores suelen responder en 1 día
Where can I find the definition for the joint compression of K and V in this code?
Abierto
- ¿Algo no está bien?
Dificultad 3/5 1-2 días Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#58 · 1 comentario · Abierto el 3/3/2025

Los mantenedores suelen responder en 1 día
FP8 Support
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 20/100

deepseek-ai/FlashMLA#56 · 1 comentario · 8 reacciones · Abierto el 28/2/2025

Los mantenedores suelen responder en 1 día
Why head_size must be 576 while q_head_dim of DeepSeek-V3 is only 192?
Abierto
- ¿Algo no está bien?
Dificultad 4/5 3-5 días Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#49 · 1 comentario · Abierto el 27/2/2025

Los mantenedores suelen responder en 1 día
Why warp specialization is faster than the older traditional style?
Abierto
- ¿Algo no está bien?
Dificultad 4/5 3-5 días Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#48 · 2 comentarios · Abierto el 27/2/2025

Los mantenedores suelen responder en 1 día
Why vcache fix to "None"
Abierto
- ¿Algo no está bien?
Dificultad 4/5 3-5 días Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#46 · 2 comentarios · Abierto el 27/2/2025

Los mantenedores suelen responder en 1 día
why head_dim and vhead_dim only support 576,512
Abierto
- ¿Algo no está bien?
Dificultad 4/5 3-5 días Aptitud para principiantes 28/100

deepseek-ai/FlashMLA#43 · 1 comentario · Abierto el 25/2/2025

Los mantenedores suelen responder en 1 día
Question about kernel synchronization in a warp group
Abierto
- ¿Algo no está bien?
Dificultad 4/5 3-5 días Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#41 · 2 comentarios · Abierto el 25/2/2025

Los mantenedores suelen responder en 1 día
Could the model trained in A100 use FlashMLA in H100 for inference?
Abierto
- ¿Algo no está bien?
Dificultad 4/5 3-5 días Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#40 · 3 comentarios · Abierto el 25/2/2025

Los mantenedores suelen responder en 1 día
【执行测试错误】：no kernel image is available for execution on the device
Abierto
- ¿Algo no está bien?
Dificultad 4/5 3-5 días Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#39 · 6 comentarios · Abierto el 25/2/2025

Los mantenedores suelen responder en 1 día
step by step study FlashMLA, what does fixed_overhead_num_blocks mean?
Abierto
- ¿Algo no está bien?
Dificultad 3/5 1-2 días Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#38 · 3 comentarios · Abierto el 25/2/2025

Los mantenedores suelen responder en 1 día
How can I compile on GPU with Compute Capability 8.6 like A6000
Abierto
- ¿Algo no está bien?
Dificultad 4/5 3-5 días Aptitud para principiantes 20/100

deepseek-ai/FlashMLA#34 · 2 comentarios · Abierto el 24/2/2025

Los mantenedores suelen responder en 1 día
on H20， Could you help me improve the TFLOPS and GB/s?
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#30 · 6 comentarios · Abierto el 24/2/2025

Los mantenedores suelen responder en 1 día
[Feature]Support flashMLA decoding via flashAttn2
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#29 · 3 comentarios · 7 reacciones · Abierto el 24/2/2025

Los mantenedores suelen responder en 1 día
q的sequence length也是任意的吗？还是只是支持小数字的？
Abierto
- ¿Algo no está bien?
Dificultad 3/5 1-2 días Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#28 · 6 comentarios · Abierto el 24/2/2025

Los mantenedores suelen responder en 1 día
来自deepseek r1分析的进一步优化思路，大家看对不对 O(∩_∩)O
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

deepseek-ai/FlashMLA#26 · 9 comentarios · 91 reacciones · Abierto el 24/2/2025

Los mantenedores suelen responder en 1 día
nice one
Abierto
- ¿Algo no está bien?
Dificultad 5/5 Más de una semana Aptitud para principiantes 10/100

deepseek-ai/FlashMLA#25 · Abierto el 24/2/2025

Los mantenedores suelen responder en 1 día

deepseek-ai/FlashMLA

¿Es deepseek-ai/FlashMLA apto para principiantes?

Cómo contribuir a deepseek-ai/FlashMLA

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

¿Algo no está bien?

Recibe los nuevos issues en tu correo