[Feature]: Support for iFlytek's Newly Open-Sourced Edge-Side Models (Spark X2.5-4B & 1.7B)
I maintainer di solito rispondono entro 4 giorni
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Idoneità per principianti
- 35/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Da chiarire
- Stato di attività
- Attiva
- Ambito
- ai, embedded-iot
Direzione di ricerca
The issue provides links to the Spark X2.5-4B and 1.7B models but names no files or tests. Start by evaluating those models against FastFlowLM's supported-model scope; done should be a clear decision on whether support is feasible and what follow-up is required.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Suggestion Description
Background
I'm a long-time user of iFlytek's products, particularly their Smart Office Book X5. The device is powered by iFlytek's edge-side models, which have been specifically fine-tuned for meeting transcription and light office tasks. In my experience, the performance on these specialized tasks is quite impressive.
Why These Models Matter
These models, being compact and efficient, appear to be well-suited for always-on deployment on NPUs like ours, which could enable seamless, day-to-day office assistance directly on the device. The X5 itself leverages a powerful NPU, demonstrating the viability of this approach.
The Opportunity
I'm excited to see that iFlytek has just open-sourced two of these edge-side models today (September 1, 2026):
A key feature is their native support for a 1 million token context window, which is quite advanced for edge-side models.
Given their proven performance in office scenarios, optimization for edge deployment, and now open-source availability, I believe these models would be a valuable addition to [Your Inference Engine's Name]'s supported model list. They could open up new possibilities for on-device AI assistance.
Would the team be interested in evaluating these models for future support?
Thanks for considering!
Operating System
Windows11
GPU
Strix Halo AI MAX 395
ROCm Component
10.0
- Lingua principale
- C++
- Stelle
- 1.9k
- Fork
- 158
- Merge medio
- 4g 16h
- PR unite (30g)
- 14
Preparare l'ambiente
- Include un Dockerfile o un file Docker Compose
- Nessun modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di ROCm/FastFlowLM
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
ROCm/FastFlowLM#757 ·
I maintainer di solito rispondono entro 4 giorni
-
No valid checkpoint to restore + Max length reached on multi-turn tool calls (Qwen3.6-MoE, NPU)Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100
ROCm/FastFlowLM#744 · 2 commenti ·
I maintainer di solito rispondono entro 4 giorni
-
Truncated tool call is emitted as a complete one (unterminated heredoc reaches the client)Forse già presa @Javinator9889 l’ha presa 19 giorni fa. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
ROCm/FastFlowLM#741 · 1 commento ·
I maintainer di solito rispondono entro 4 giorni
-
Download timeoutForse già presa @stdevPavelmc l’ha presa 147 giorni fa. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 74/100
ROCm/FastFlowLM#520 · 7 commenti ·
I maintainer di solito rispondono entro 4 giorni
-
[Nice-to-have] /v1/pingAperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
ROCm/FastFlowLM#434 · 1 commento ·
I maintainer di solito rispondono entro 4 giorni
Tutte le issue di ROCm/FastFlowLM
Issue simili
-
needs-triage
Difficoltà 2/5 1-3 ore Idoneità per principianti 70/100
flashinfer-ai/flashinfer#6212 ·
I maintainer di solito rispondono entro 1 giorno
-
bug graphics
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
FlaxEngine/FlaxEngine#4295 · 2 commenti ·
I maintainer di solito rispondono entro 2 giorni
-
bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 66/100
Algorithmiq/monoprop#390 ·
I maintainer di solito rispondono entro 1 giorno
-
docs
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
I maintainer di solito rispondono entro 1 giorno
-
8-membered-ring atrop stereo lost in 2026.09.1Forse già presa Una pull request collegata a questa issue è aperta o già unita. Apertabug
Difficoltà 2/5 Mezza giornata Idoneità per principianti 86/100
I maintainer di solito rispondono entro 2 giorni