MiniMax-M2.7 is highly verbose and slow
还没有人认领这个 Issue。
评估
- 难度
- 4/5
- 预计耗时
- 3-5 天
- 新手友好度
- 35/100
- Issue 类型
- 缺陷
- 描述清晰度
- 需要澄清
- 活跃度
- 冷清
调研方向
Start by reproducing the M2.7 workload with vLLM on 4 x A100 (80G), comparing it with M2.5 and recording latency, output length, and degradation after repeated requests. Narrow down whether verbosity or slowdown is the primary regression, then document a minimal reproduction and expected behavior; no repository file or test is identified in the issue.
由索引模型根据 Issue 内容生成。
描述
I upgraded from M2.5 to M2.7, I am using 4 x A100(80G), the M2.5 is compared to be on-the-fly, but the M2.7 is really verbose and slow, I am running with the VLLM, it's getting worse after some amount of requests.
- 主要语言
- 没有语言数据
- 星标
- 366
- 派生
- 63
- PR 合并指标
- 30 天内没有已合并 PR
环境准备
这个项目没有提供开发容器、Dockerfile 或贡献指南，环境需要你自己搭建：先看它的 README，通用步骤见我们的新手贡献指南。
从这里开始
- 先读完整个 Issue，再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库，在一个分支上完成修改。
- 提交 Pull Request，并在描述里引用这个 Issue 编号。
MiniMax-AI/MiniMax-M2.7 的其他 Issue
-
难度 2/5 1-3 小时 新手友好度 68/100
MiniMax-AI/MiniMax-M2.7#46 · 5 条评论 · 1 个 reaction ·
-
ไหม未关闭
难度 5/5 一周以上 新手友好度 1/100
MiniMax-AI/MiniMax-M2.7#59 ·
-
难度 2/5 1-3 小时 新手友好度 55/100
MiniMax-AI/MiniMax-M2.7#58 ·
-
难度 4/5 3-5 天 新手友好度 15/100
MiniMax-AI/MiniMax-M2.7#57 ·
-
难度 4/5 3-5 天 新手友好度 15/100
MiniMax-AI/MiniMax-M2.7#56 ·
查看 MiniMax-AI/MiniMax-M2.7 的全部 Issue
相似的 Issue
-
难度 2/5 1-3 小时 新手友好度 72/100
维护者通常 1 天内回复
-
bot-triaged module: LrScheduler module: optimizer triaged
难度 2/5 1-3 小时 新手友好度 70/100
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 78/100
huggingface/peft#3999 ·
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 83/100
mstar-project/mstar#536 ·
维护者通常 3 天内回复
-
难度 2/5 1-3 小时 新手友好度 72/100
aws/sagemaker-python-sdk#6495 ·
维护者通常 2 天内回复