disable prefix on random for qwen3.5 & glm mi355 / 禁用 Qwen3.5 和 GLM MI355 上 random 的 prefix 缓存

Aperta
#971 5 commenti 0 reazioni 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 1 giorno

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
2/5
Tempo stimato
1-3 ore
Idoneità per principianti
55/100
Tipo di issue
Bug
Chiarezza
Specificata chiaramente
Stato di attività
Tranquilla
Stack tecnologico
shell
Ambito
performance

Direzione di ricerca

Open benchmarks/single_node/qwen3.5_bf16_mi355x.sh, qwen3.5_fp8_mi355x.sh, and glm5_fp8_mi355x.sh. Compare the random-mode benchmark settings and identify the prefix-cache option. Done means random mode runs with prefix caching disabled in all three MI355X scripts.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

p0
Lingua principale
Python
Stelle
1.9k
Fork
343
Merge medio
2g 40m
PR unite (30g)
431

Preparare l'ambiente

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di SemiAnalysisAI/InferenceX

Tutte le issue di SemiAnalysisAI/InferenceX

Issue simili

Altre issue su Python

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.