Request permission to use InferenceX benchmark results in ConfigIQ
I maintainer di solito rispondono entro 1 giorno
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 2/5
- Tempo stimato
- Meno di un'ora
- Idoneità per principianti
- 18/100
- Tipo di issue
- Documentazione
- Chiarezza
- Abbastanza chiara
- Stato di attività
- Attiva
- Ambito
- data, documentation
Direzione di ricerca
This is a licensing and permission question rather than a code change: the issue asks whether SemiAnalysis approves private storage, public attributed display, and weekly API refresh of benchmark results, and it points to the API docs and Section 7 of the general terms. A newcomer would read the linked terms and API documentation and check for any stated license, attribution or rate-limit rules. Done means a maintainer has answered the permission question in the thread.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Hi InferenceX team,
The ConfigIQ team is developing a Compare page that shows measured inference performance alongside AISimulators predictions across concurrency levels.
We would like to add InferenceX as a separately labeled measurement source on ConfigIQ’s comparison page. If approved, we propose to:
- Fetch selected published single-turn 8192-input / 1024-output-token results using
/api/v1/availability,/api/v1/views/options, and/api/v1/benchmarks. - Normalize the selected results and store them in a private Hugging Face dataset so ConfigIQ can load configuration options.
- Display selected measurements on ConfigIQ’s public comparison charts alongside our measurements and AISimulators predictions. We would clearly attribute the data to InferenceX/SemiAnalysis and link to the original benchmark runs. The private dataset would not be offered as a public download.
- Refresh the private dataset from your API approximately once a week.
The API documentation describes accessing and exporting data for analysis, but we could not determine whether it permits this specific workflow. Section 7 of SemiAnalysis’s general terms also raises a question about scheduled API collection.
Would SemiAnalysis approve these uses: private storage of a normalized subset, public display of selected measurements with attribution, and a weekly API refresh? Are there license, attribution, or request-frequency requirements we should follow? Thanks.
- Lingua principale
- Python
- Stelle
- 1.9k
- Fork
- 343
- Merge medio
- 2g 40m
- PR unite (30g)
- 431
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Ha un modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di SemiAnalysisAI/InferenceX
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
SemiAnalysisAI/InferenceX#2125 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
SemiAnalysisAI/InferenceX#1587 ·
I maintainer di solito rispondono entro 1 giorno
-
[experimental chore/agentx-v0.2-aiperf-testing branch] agentic build_replay_cmd: missing --tokenizer-trust-remote-code breaks Kimi-K2.5 (and other custom-code tokenizer models) / agentic build_replay_cmd 缺少 --tokenizer-trust-remote-code 导致 Kimi-K2.5 等自定义 tokenizer 模型失败Forse di nuovo libera @sahil-bhatti-ai l’ha presa 170 giorni fa e non c’è nessuna pull request aperta. Aperta
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 78/100
SemiAnalysisAI/InferenceX#1369 · 3 commenti ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 1/5 1-3 ore Idoneità per principianti 76/100
SemiAnalysisAI/InferenceX#1359 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 47/100
SemiAnalysisAI/InferenceX#4533 ·
I maintainer di solito rispondono entro 1 giorno
Tutte le issue di SemiAnalysisAI/InferenceX
Issue simili
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100
I maintainer di solito rispondono entro 1 giorno
-
namespace operations
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 65/100
EclipseFdn/open-vsx.org#15057 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
FinanceFlash/unvibecode#349 ·
-
Mission statement: why this is free, in the README, Why This Exists and the wiki HomeForse già presa @ChiefGyk3D l’ha presa oggi. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
ChiefGyk3D/Clouds-Against-Humanity#348 ·
I maintainer di solito rispondono entro 1 giorno
-
[Perf] Default --vllm-watermark 0.05 for rollouts (hybrid models re-preempt under KV pressure)Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 74/100
vllm-project/vime#508 ·
I maintainer di solito rispondono entro 4 giorni