b200 fp4 minimax vllm single node / B200 FP4 MiniMax vLLM 单节点
Les mainteneurs répondent en général sous 1 jour
Personne n'a encore pris cette issue.
- #952 par @functionstackx — fermée sans fusion
Évaluation
- Difficulté
- 4/5
- Temps estimé
- 3-5 jours
- Accessibilité débutants
- 35/100
- Type d'issue
- Fonctionnalité
- Clarté
- Plutôt claire
- Activité
- Calme
- Stack technique
- huggingface, python
- Domaine
- machine-learning, performance
Piste de recherche
Start by locating the existing vLLM benchmark entry point and configurations for B200 or MI355 single-node runs. Add coverage for nvidia/MiniMax-M2.5-NVFP4 with TP=2 and TP=4, covering concurrency 4 through 64, then verify the benchmark completes on the intended hardware; resolve whether B200 or MI355 is the target.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Description
@claude vllm add minimax fp4 for mi355 tp4 & tp2 from conc 4 to 64
huggingface model nvidia/MiniMax-M2.5-NVFP4
中文说明
请求在 B200 上使用 vLLM 添加 MiniMax FP4 单节点基准测试，支持 TP=4 和 TP=2，并发范围从 4 到 64。HuggingFace 模型为 nvidia/MiniMax-M2.5-NVFP4。
- Langage dominant
- Python
- Étoiles
- 1.9k
- Forks
- 343
- Merge moyen
- 2 j 40 min
- PR mergées (30 j)
- 431
Préparer son environnement
- Aucun Dockerfile ni fichier Docker Compose
- Propose un modèle de pull request
- Lire le guide de contribution
Par où commencer
- Lisez l'issue en entier, puis le guide de contribution du projet.
- Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
- Forkez le dépôt et travaillez sur une branche.
- Ouvrez une pull request qui référence le numéro de l'issue.
Autres issues de SemiAnalysisAI/InferenceX
-
Difficulté 2/5 1-3 heures Accessibilité débutants 68/100
SemiAnalysisAI/InferenceX#2125 ·
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 2/5 1-3 heures Accessibilité débutants 68/100
SemiAnalysisAI/InferenceX#1587 ·
Les mainteneurs répondent en général sous 1 jour
-
[experimental chore/agentx-v0.2-aiperf-testing branch] agentic build_replay_cmd: missing --tokenizer-trust-remote-code breaks Kimi-K2.5 (and other custom-code tokenizer models) / agentic build_replay_cmd 缺少 --tokenizer-trust-remote-code 导致 Kimi-K2.5 等自定义 tokenizer 模型失败Peut-être à nouveau libre @sahil-bhatti-ai l’a pris il y a 170 jours, et aucune pull request n’est ouverte. Ouverte
Difficulté 1/5 Moins d'une heure Accessibilité débutants 78/100
SemiAnalysisAI/InferenceX#1369 · 3 commentaires ·
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 1/5 1-3 heures Accessibilité débutants 76/100
SemiAnalysisAI/InferenceX#1359 · 1 commentaire ·
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 2/5 Moins d'une heure Accessibilité débutants 18/100
SemiAnalysisAI/InferenceX#4655 · 1 commentaire ·
Les mainteneurs répondent en général sous 1 jour
Toutes les issues de SemiAnalysisAI/InferenceX
Issues similaires
-
bug
Difficulté 2/5 1-3 heures Accessibilité débutants 86/100
NousResearch/hermes-agent#147104 ·
Les mainteneurs répondent en général sous 1 jour
-
[oblt-aw][autodoc] Document new required `shared-org-key` input for `obs-aw-dependency-review`Peut-être pris @github-actions l’a pris aujourd’hui. Ouverte
Difficulté 1/5 Moins d'une heure Accessibilité débutants 90/100
Les mainteneurs répondent en général sous 1 jour
-
bot-triaged module: inductor oncall: pt2 topic: fuzzer triaged
Difficulté 2/5 1-3 heures Accessibilité débutants 82/100
Les mainteneurs répondent en général sous 1 jour
-
getchaintips leaves out the active tip once a header is staged on it, where Core always lists itOuverte
Difficulté 2/5 1-3 heures Accessibilité débutants 88/100
btclib-org/btclib-node#2158 ·
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 2/5 1-3 heures Accessibilité débutants 75/100
patrick-hudson/put.gd-desktop#979 · 1 commentaire ·
Les mainteneurs répondent en général sous 1 jour