M3 mi325 profile run / MiniMax-M3 MI325X 性能剖析运行

Aperta
#1,765 1 commento 0 reazioni 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 1 giorno

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
4/5
Tempo stimato
3-5 giorni
Idoneità per principianti
35/100
Tipo di issue
Funzionalità
Chiarezza
Abbastanza chiara
Stato di attività
Tranquilla
Stack tecnologico
python, pytorch

Direzione di ricerca

No file, test, or entry point is named. Start by locating the MI325X profiling and MiniMax-M3 execution path, then run the requested concurrency-4, single-decode-step profile. Done means a kernel-by-kernel wall-clock and percentage breakdown, including the MoE time and share.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

@claude do a profile mi325 run with minimax m3 with conc 4, and for 1 decode step, breakdown where the time went kernel by kernel, wall clock time & %, how long did MoE take, etc?

中文说明

请求对 MiniMax-M3 在 MI325X 上进行性能剖析运行:并发度 4,针对单步解码,逐内核分解耗时(wall clock 时间和百分比),特别关注 MoE 层的耗时占比。

Lingua principale
Python
Stelle
1.9k
Fork
343
Merge medio
2g 40m
PR unite (30g)
431

Preparare l'ambiente

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di SemiAnalysisAI/InferenceX

Tutte le issue di SemiAnalysisAI/InferenceX

Issue simili

Altre issue su Python

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.