b200 fp4 minimax vllm single node / B200 FP4 MiniMax vLLM 单节点
Maintainer antworten meist innerhalb von 1 Tag
Dieses Issue hat noch niemand übernommen.
- #952 von @functionstackx — ohne Merge geschlossen
Bewertung
- Schwierigkeit
- 4/5
- Geschätzter Aufwand
- 3-5 Tage
- Anfängerfreundlichkeit
- 35/100
- Issue-Typ
- Feature
- Klarheit
- Größtenteils klar
- Aktivitätsstatus
- Ruhig
- Tech-Stack
- huggingface, python
- Bereich
- machine-learning, performance
Rechercherichtung
Start by locating the existing vLLM benchmark entry point and configurations for B200 or MI355 single-node runs. Add coverage for nvidia/MiniMax-M2.5-NVFP4 with TP=2 and TP=4, covering concurrency 4 through 64, then verify the benchmark completes on the intended hardware; resolve whether B200 or MI355 is the target.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Beschreibung
@claude vllm add minimax fp4 for mi355 tp4 & tp2 from conc 4 to 64
huggingface model nvidia/MiniMax-M2.5-NVFP4
中文说明
请求在 B200 上使用 vLLM 添加 MiniMax FP4 单节点基准测试，支持 TP=4 和 TP=2，并发范围从 4 到 64。HuggingFace 模型为 nvidia/MiniMax-M2.5-NVFP4。
- Vorherrschende Sprache
- Python
- Sterne
- 1.9k
- Forks
- 343
- Ø Merge
- 2 T. 40 Min.
- Gemergte PRs (30 T.)
- 431
Entwicklungsumgebung
- Kein Dockerfile und keine Docker-Compose-Datei
- Hat eine Pull-Request-Vorlage
- Beitragsleitfaden lesen
Erste Schritte
- Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
- Forken Sie das Repository und arbeiten Sie in einem Branch.
- Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.
Mehr aus SemiAnalysisAI/InferenceX
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 68/100
SemiAnalysisAI/InferenceX#2125 ·
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 68/100
SemiAnalysisAI/InferenceX#1587 ·
Maintainer antworten meist innerhalb von 1 Tag
-
[experimental chore/agentx-v0.2-aiperf-testing branch] agentic build_replay_cmd: missing --tokenizer-trust-remote-code breaks Kimi-K2.5 (and other custom-code tokenizer models) / agentic build_replay_cmd 缺少 --tokenizer-trust-remote-code 导致 Kimi-K2.5 等自定义 tokenizer 模型失败Evtl. wieder frei @sahil-bhatti-ai hat das vor 170 Tagen übernommen, und es ist kein Pull Request offen. Offen
Schwierigkeit 1/5 Unter einer Stunde Anfängerfreundlichkeit 78/100
SemiAnalysisAI/InferenceX#1369 · 3 Kommentare ·
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 1/5 1-3 Stunden Anfängerfreundlichkeit 76/100
SemiAnalysisAI/InferenceX#1359 · 1 Kommentar ·
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 Unter einer Stunde Anfängerfreundlichkeit 18/100
SemiAnalysisAI/InferenceX#4655 · 1 Kommentar ·
Maintainer antworten meist innerhalb von 1 Tag
Alle Issues in SemiAnalysisAI/InferenceX
Ähnliche Issues
-
bug
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 86/100
NousResearch/hermes-agent#147104 ·
Maintainer antworten meist innerhalb von 1 Tag
-
[oblt-aw][autodoc] Document new required `shared-org-key` input for `obs-aw-dependency-review`Evtl. vergeben @github-actions hat das heute übernommen. Offen
Schwierigkeit 1/5 Unter einer Stunde Anfängerfreundlichkeit 90/100
Maintainer antworten meist innerhalb von 1 Tag
-
bot-triaged module: inductor oncall: pt2 topic: fuzzer triaged
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 82/100
Maintainer antworten meist innerhalb von 1 Tag
-
getchaintips leaves out the active tip once a header is staged on it, where Core always lists itOffen
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 88/100
btclib-org/btclib-node#2158 ·
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 75/100
patrick-hudson/put.gd-desktop#979 · 1 Kommentar ·
Maintainer antworten meist innerhalb von 1 Tag