sgl-project/sglang-jax

[Perf] test Qwen/Qwen3-235B-A22B for RL

Open

Aperta il 6 feb 2026

Vedi su GitHub
 (0 commenti) (0 reazioni) (1 assegnatario)Python (276 star) (101 fork)auto 404
help wantedperformance

Descrizione

  • model: Qwen/Qwen3-235B-A22B
  • chip: v6e
  • input: [4, 64, 256, 512, 1024, 2048, 4096]
  • output: [1, 4, 1024, 4096, 8192, 16384, 24576]
  • batch_size: [8,16,32,64,128,256,512]
  • mode: McJAX
  • hardware: tpu-v6e-32

Guida contributor

Tech stack
python
Dominio
machine learning
Tipo issue
test
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-2 days
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
fresh
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
clear
Prerequisiti
PythonJAXMachine Learning basics
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
20
Direzione di ricerca
Configura l'ambiente per eseguire il modello Qwen/Qwen3-235B A22B su TPU v6e con JAX, esegui le forme di input e le dimensioni batch fornite, misura latenza e throughput e confronta con i benchmark di prestazioni attesi.