ROCm/FastFlowLM

GitHub で見る

Run LLMs on AMD Ryzen™ AI NPUs in minutes; purpose-built and deeply optimized for the AMD NPUs.

スター: 1.9k
フォーク: 152
オープンの初心者向け issue: 6
索引済み issue: 153
平均マージ: 1日 13時間
マージ済み PR（30日）: 15

主要言語: C++
ライセンス: MIT
最終 GitHub push: 2026年9月18日
最新の索引: 2026年9月20日
コントリビューションガイド: コントリビューションガイド
行動規範: 行動規範がありません
初心者向けラベル: 初心者向けラベルは索引されていません

初心者向けすべて

オープンすべて

flm serve OpenAI-compatible endpoint hardcodes max_tokens default = 4096 → long responses are silently truncated (finish_reason: "length") when the client omits max_tokens オープン

難易度 3/5 1〜2日初心者へのやさしさ 72/100

ROCm/FastFlowLM#749 · 2026年9月22日に作成
[Bug, Issue]: ASR model (whisper-large-v3-turbo) not explicitly named in v1/models, so doesn't work with stricter openAI compatible connections オープン

難易度 3/5 1〜2日初心者へのやさしさ 65/100

ROCm/FastFlowLM#746 · コメント 1 件 · 2026年9月19日に作成
[Feature]: Add support for Cactus Compute Needle model オープン

難易度 5/5 1週間以上初心者へのやさしさ 35/100

ROCm/FastFlowLM#745 · 2026年9月18日に作成
No valid checkpoint to restore + Max length reached on multi-turn tool calls (Qwen3.6-MoE, NPU) オープン

難易度 2/5 1〜3時間初心者へのやさしさ 82/100

ROCm/FastFlowLM#744 · コメント 2 件 · 2026年9月18日に作成
Truncated tool call is emitted as a complete one (unterminated heredoc reaches the client) オープン

難易度 2/5 1〜3時間初心者へのやさしさ 78/100

ROCm/FastFlowLM#741 · コメント 1 件 · 2026年9月18日に作成
Non-streaming responses leak <think> tags into content for qwen3.5, qwen3.6-moe, qwen3vl and qwen3.5-omni オープン

難易度 3/5 1〜2日初心者へのやさしさ 70/100

ROCm/FastFlowLM#739 · コメント 1 件 · 2026年9月18日に作成
[Feature]: KV-cache reuse for shared-prefix one-shot requests (prefix caching / partial truncate) オープン

難易度 5/5 1週間以上初心者へのやさしさ 35/100

ROCm/FastFlowLM#737 · 2026年9月17日に作成
Prompt cache: identical resend never hits, partial match discards everything, and nothing is sent during prefill オープン

難易度 5/5 1週間以上初心者へのやさしさ 35/100

ROCm/FastFlowLM#733 · コメント 2 件 · 2026年9月17日に作成
v1.0.4 regression: embed-gemma:300m embeddings via --embed 1 are wrong (uncorrelated with v0.9.39 on identical weights) オープン

難易度 4/5 3〜5日初心者へのやさしさ 35/100

ROCm/FastFlowLM#732 · 2026年9月17日に作成
[Feature/Model Request]: Support for NPU-accelerated Text-to-Speech (TTS) models オープン

難易度 5/5 1週間以上初心者へのやさしさ 30/100

ROCm/FastFlowLM#731 · 2026年9月17日に作成
[Documentation]: How to generate SRT/VTT transcripts オープン

難易度 4/5 3〜5日初心者へのやさしさ 35/100

ROCm/FastFlowLM#726 · 2026年9月13日に作成
[Issue]: [Bug][Linux] flm serve crash: C++ assertion failure '!this->empty()' in std::vector<logits_t>::back() オープン

難易度 4/5 3〜5日初心者へのやさしさ 48/100

ROCm/FastFlowLM#725 · 2026年9月12日に作成
[Issue]: Gemma4 tool-call parsing produces wrong name and arguments (v1.0.5) オープン

難易度 3/5 1〜2日初心者へのやさしさ 66/100

ROCm/FastFlowLM#722 · コメント 3 件 · 2026年9月10日に作成
Flm with gemma 4 has very poor ability to call tools オープン

難易度 4/5 3〜5日初心者へのやさしさ 35/100

ROCm/FastFlowLM#721 · コメント 2 件 · リアクション 1 件 · 2026年9月10日に作成
Inconsistent memory consumption? オープン

難易度 4/5 3〜5日初心者へのやさしさ 35/100

ROCm/FastFlowLM#720 · 2026年9月10日に作成
[Issue]: JSON literal data types instead of strings オープン

難易度 4/5 3〜5日初心者へのやさしさ 35/100

ROCm/FastFlowLM#719 · 2026年9月10日に作成
The directory for models is not configurable in the new MSI installer オープン

難易度 3/5 1〜2日初心者へのやさしさ 55/100

ROCm/FastFlowLM#718 · 2026年9月10日に作成
Server silently serves the resident model for unresolvable model tags, echoing the requested name オープン

難易度 4/5 3〜5日初心者へのやさしさ 64/100

ROCm/FastFlowLM#716 · コメント 1 件 · 2026年9月9日に作成
[Feature]: Support MiniCPM5-2B top-ranked open 2B model オープン

難易度 5/5 1週間以上初心者へのやさしさ 35/100

ROCm/FastFlowLM#715 · 2026年9月8日に作成
Qwen3-8B on XDNA2 (Strix Halo): only ~10 tok/s decode + slow TTFT vs GPU - is this expected? オープン

難易度 4/5 3〜5日初心者へのやさしさ 48/100

ROCm/FastFlowLM#713 · 2026年9月8日に作成
[Model Support]: Unofficial MiniCPM5-2B Q4NX pack for XDNA 2 オープン

難易度 4/5 3〜5日初心者へのやさしさ 45/100

ROCm/FastFlowLM#712 · コメント 11 件 · 2026年9月8日に作成
[Feature]: Publish signed binaries オープン

難易度 4/5 3〜5日初心者へのやさしさ 38/100

ROCm/FastFlowLM#711 · 2026年9月7日に作成
Qwen3.6-35B-A3B Linux v1.0.4: ~2.7s fixed per-request TTFT = ~4,900 serialized per-expert NPU execs — validated coarsening fix (concatenated-expert GEMM) オープン

難易度 5/5 1週間以上初心者へのやさしさ 35/100

ROCm/FastFlowLM#710 · リアクション 2 件 · 2026年9月6日に作成
[Linux] Weight bos are MAP_LOCKED — models >~18GB cannot load on 22.6GB RAM machines and some request オープン

難易度 5/5 1週間以上初心者へのやさしさ 25/100

ROCm/FastFlowLM#709 · 2026年9月5日に作成
[Issue]: v1.0.4 causes NPU hardware crash (0xc00002b6) and Kernel Deadlock on AMD Ryzen AI (v1.0.3 works fine) オープン

難易度 5/5 1週間以上初心者へのやさしさ 25/100

ROCm/FastFlowLM#708 · コメント 1 件 · 2026年9月5日に作成
[Feature]: Trivial/Low-Priority/Unimportant: F.L.M. Mel & Kim オープン

難易度 5/5 1週間以上初心者へのやさしさ 15/100

ROCm/FastFlowLM#707 · リアクション 1 件 · 2026年9月4日に作成
[Issue]: Qwen3.5 / Qwen3.6 family fails to load on Strix Halo (Ryzen AI MAX+ 395, NPU2) — CREATE_HWCTX err=-22, while all other models work オープン

難易度 5/5 1週間以上初心者へのやさしさ 35/100

ROCm/FastFlowLM#705 · コメント 3 件 · 2026年9月3日に作成
Support request: Bielik-11B-v3.0-Instruct-heretic-MPOA on Ryzen AI NPU オープン

難易度 5/5 1週間以上初心者へのやさしさ 25/100

ROCm/FastFlowLM#704 · 2026年9月3日に作成
[Bug] Whisper transcription truncated after ~16 tokens (any clip with >~4s of continuous speech) オープン

難易度 3/5 1〜2日初心者へのやさしさ 74/100

ROCm/FastFlowLM#698 · コメント 1 件 · 2026年9月1日に作成
[Issue]: Todos status argument missing in Tool calling オープン

難易度 4/5 3〜5日初心者へのやさしさ 35/100

ROCm/FastFlowLM#697 · コメント 2 件 · 2026年9月1日に作成
[Feature]: Support for iFlytek's Newly Open-Sourced Edge-Side Models (Spark X2.5-4B & 1.7B) オープン

難易度 5/5 1週間以上初心者へのやさしさ 35/100

ROCm/FastFlowLM#696 · コメント 1 件 · リアクション 1 件 · 2026年9月1日に作成
[Issue]: Whisper periodic forced timestamp sampling truncates Japanese sentence endings オープン

難易度 4/5 3〜5日初心者へのやさしさ 52/100

ROCm/FastFlowLM#694 · コメント 1 件 · 2026年8月31日に作成
[Feature]: Qwen3.8-Flash-Next オープン

難易度 5/5 1週間以上初心者へのやさしさ 30/100

ROCm/FastFlowLM#692 · コメント 3 件 · リアクション 9 件 · 2026年8月28日に作成
[Feature]: Model Request: JetBrains Mellum2‑12B‑A2.5B‑Thinking & Mellum2‑12B‑A2.5B‑Instruct (MoE) オープン

難易度 4/5 3〜5日初心者へのやさしさ 45/100

ROCm/FastFlowLM#691 · リアクション 3 件 · 2026年8月28日に作成
[ Request/Plea ] Let the Open Source Community Support You オープン

難易度 5/5 1週間以上初心者へのやさしさ 20/100

ROCm/FastFlowLM#690 · コメント 38 件 · リアクション 7 件 · 2026年8月27日に作成
v1.0.2 crashes (0xC0000005) loading qwen3.6-moe:35b-a3b weights downloaded with v0.9.45 — `flm pull` doesn't detect outdated weights オープン

難易度 4/5 3〜5日初心者へのやさしさ 52/100

ROCm/FastFlowLM#685 · コメント 1 件 · 2026年8月25日に作成
gpt-oss:20b never emits tool_calls even with valid OpenAI-style tools schema + tool_choice:auto オープン

難易度 4/5 3〜5日初心者へのやさしさ 55/100

ROCm/FastFlowLM#684 · リアクション 1 件 · 2026年8月24日に作成
[Model request]: Meta Muse Glimmer 30B オープン

難易度 5/5 1週間以上初心者へのやさしさ 35/100

ROCm/FastFlowLM#683 · コメント 1 件 · リアクション 1 件 · 2026年8月24日に作成
Server stops accepting connections after 10 client aborts — connection slot leak ("Connection limit reached (10)") オープン

難易度 3/5 1〜2日初心者へのやさしさ 68/100

ROCm/FastFlowLM#680 · コメント 1 件 · リアクション 1 件 · 2026年8月20日に作成
FLM 1.0.2 on Linux: Qwen3.5 4B and 9B hang during prefill, while Llama 3.2 and Qwen3.6 work オープン

難易度 4/5 3〜5日初心者へのやさしさ 42/100

ROCm/FastFlowLM#678 · コメント 2 件 · リアクション 1 件 · 2026年8月19日に作成
Qwen3.6-35B-A3B emits garbage tokens and gpt-oss-20b crashes on Gorgon Point (Ryzen AI 9 HX 470); HRX source build crashes in qwen3_npu.dll オープン

難易度 5/5 1週間以上初心者へのやさしさ 35/100

ROCm/FastFlowLM#677 · コメント 7 件 · リアクション 3 件 · 2026年8月19日に作成
[Feature]: New Python wrapper オープン

難易度 5/5 1週間以上初心者へのやさしさ 35/100

ROCm/FastFlowLM#676 · リアクション 1 件 · 2026年8月19日に作成
[Feature]: Qwen3.8-27B please オープン

難易度 5/5 1週間以上初心者へのやさしさ 35/100

ROCm/FastFlowLM#673 · コメント 4 件 · リアクション 12 件 · 2026年8月18日に作成
/api/show returns stubs — populate model_info context_length + details so Ollama-compatible clients can auto-configure オープン

難易度 3/5 1〜2日初心者へのやさしさ 74/100

ROCm/FastFlowLM#671 · コメント 3 件 · リアクション 1 件 · 2026年8月15日に作成
flm-real segfaults on NPU firmware timeout when GPU is concurrently active via ROCm (Strix Halo) — companion to amd/xdna-driver#1605 オープン

難易度 4/5 3〜5日初心者へのやさしさ 38/100

ROCm/FastFlowLM#670 · コメント 1 件 · 2026年8月14日に作成
[ GUIDE **WILL NEVER WORK ABOVE 1.0.1** ] - Converting and adding finetunes (unofficial but functional) オープン

難易度 3/5 1〜2日初心者へのやさしさ 38/100

ROCm/FastFlowLM#669 · コメント 1 件 · リアクション 1 件 · 2026年8月14日に作成
Apply a "chat" label to LLMs オープン

難易度 3/5 1〜2日初心者へのやさしさ 52/100

ROCm/FastFlowLM#668 · 2026年8月13日に作成
embed-gemma:300m returns a collapsed embedding space: deterministic, but unusable for retrieval (same model via llama.cpp is correct) オープン

難易度 4/5 3〜5日初心者へのやさしさ 52/100

ROCm/FastFlowLM#661 · コメント 13 件 · 2026年8月10日に作成
IOCTL regression using ASR and embedding models simultaneously (Krackan Point) オープン

難易度 4/5 3〜5日初心者へのやさしさ 38/100

ROCm/FastFlowLM#655 · コメント 7 件 · 2026年8月6日に作成
Nanbeige4.2-3B please オープン

難易度 4/5 3〜5日初心者へのやさしさ 48/100

ROCm/FastFlowLM#653 · コメント 1 件 · 2026年8月6日に作成

ROCm/FastFlowLM

最新の 100 件のみ表示しています

新しい issue をメールで受け取る