openvinotoolkit/model_server

可能已有人在做的 issue 排在最后。 全部按时间排序

• /models REST endpoint lacks context size

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  bug

  难度 3/5 1-2 天 新手友好度 68/100

  openvinotoolkit/model_server#4609 · 1 条评论 · 2026年9月26日 创建

  维护者通常 2 天内回复

• opencode tool_calls problem with OpenVINO/Qwen3-Coder-30B-A3B-Instruct-int4-ov

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  bug

  难度 4/5 3-5 天 新手友好度 45/100

  openvinotoolkit/model_server#4599 · 4 条评论 · 2026年9月23日 创建

  维护者通常 2 天内回复

• OVMS tools call for Gemma 4 E4B failed

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  难度 3/5 1-2 天 新手友好度 55/100

  openvinotoolkit/model_server#4586 · 1 条评论 · 2026年9月18日 创建

  维护者通常 2 天内回复

• OVMS requiring manual WEIGHTS_PATH

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  bug

  难度 4/5 3-5 天 新手友好度 52/100

  openvinotoolkit/model_server#4580 · 3 条评论 · 2026年9月18日 创建

  维护者通常 2 天内回复

• stou32() accepts partial parses, unlike the other stringutils converters

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  难度 2/5 1-3 小时 新手友好度 35/100

  openvinotoolkit/model_server#4554 · 2026年9月12日 创建

  维护者通常 2 天内回复

• --source_loras misreads a URL port as the :alpha suffix and refuses to start

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  难度 2/5 1-3 小时 新手友好度 45/100

  openvinotoolkit/model_server#4545 · 2026年9月11日 创建

  维护者通常 2 天内回复

• readMp3() never down-mixes stereo - returns interleaved samples where the API contract says mono

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  难度 3/5 1-2 天 新手友好度 25/100

  openvinotoolkit/model_server#4543 · 2026年9月11日 创建

  维护者通常 2 天内回复

• Add dimensions parameter support for embeddings endpoint (Matryoshka)

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  enhancement

  难度 3/5 1-2 天 新手友好度 68/100

  openvinotoolkit/model_server#4542 · 2026年9月11日 创建

  维护者通常 2 天内回复

• [Regression] 2026.3.1-gpu hangs with 200% CPU in sched_yield / libopencl-clang on dynamic shape embeddings (working fine in 2026.3-gpu)

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  难度 5/5 一周以上 新手友好度 35/100

  openvinotoolkit/model_server#4510 · 2026年9月4日 创建

  维护者通常 2 天内回复

• Continuous batching: a GPU lane can reach a state where the servable stays up and every request hangs indefinitely until restart

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  难度 5/5 一周以上 新手友好度 32/100

  openvinotoolkit/model_server#4503 · 2026年9月3日 创建

  维护者通常 2 天内回复

• Publish full YYYY.MINOR.PATCH Docker tags for .0 OVMS releases

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  enhancement

  难度 3/5 1-2 天 新手友好度 65/100

  openvinotoolkit/model_server#4488 · 2026年8月29日 创建

  维护者通常 2 天内回复

• Permanent LLMExecutor wedge after CL_OUT_OF_RESOURCES on discrete GPU: servable stays AVAILABLE but every request returns 400 until restart (VLM legacy pipeline, public model)

  可能重新可做 @michalkulakowski 于 35 天前认领，目前没有进行中的 PR。 未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  bug

  openvinotoolkit/model_server#4469 · 8 条评论 · 已指派 1 人 · 2026年8月24日 创建

  维护者通常 2 天内回复

• OVMS 2026.3 exits 139 (SIGSEGV) with no error message when loading an IR that requires a newer OpenVINO — reproduces on CPU

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  难度 4/5 3-5 天 新手友好度 52/100

  openvinotoolkit/model_server#4461 · 1 条评论 · 1 个 reaction · 2026年8月18日 创建

  维护者通常 2 天内回复

• can't run qwen3.6 27b in pipeline parallel

  可能重新可做 @mzegla 于 42 天前认领，目前没有进行中的 PR。 未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  bug

  openvinotoolkit/model_server#4452 · 7 条评论 · 已指派 1 人 · 2026年8月14日 创建

  维护者通常 2 天内回复

• MTP and Dflash

  可能重新可做 @michalkulakowski 于 46 天前认领，目前没有进行中的 PR。 未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  openvinotoolkit/model_server#4447 · 1 条评论 · 已指派 1 人 · 2026年8月13日 创建

  维护者通常 2 天内回复

• SIGSEGV in continuous batching when a streaming client disconnects mid-generation (block_manager.hpp:633 assertion, GPU, 2026.2.1)

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  难度 4/5 3-5 天 新手友好度 45/100

  openvinotoolkit/model_server#4428 · 19 条评论 · 2026年8月4日 创建

  维护者通常 2 天内回复

• Enable_prefix_caching: Suspected cache inaccuracy during prefix reuse in Linear Attention Models

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  bug

  难度 4/5 3-5 天 新手友好度 48/100

  openvinotoolkit/model_server#4376 · 2026年7月15日 创建

  维护者通常 2 天内回复

• Baremetal ovms_ubuntu24 binary fails on newer distros — libxml2.so.2 (+ ICU 74) is a runtime dep but not bundled

  可能重新可做 @dkalinowski 于 80 天前认领，目前没有进行中的 PR。 未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  openvinotoolkit/model_server#4362 · 3 条评论 · 已指派 1 人 · 2026年7月9日 创建

  维护者通常 2 天内回复

• Windows Manager: Updates page and staged package upgrade workflow

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  难度 5/5 一周以上 新手友好度 35/100

  openvinotoolkit/model_server#4351 · 2026年7月1日 创建

  维护者通常 2 天内回复

• [RFC] Standalone Windows installer + tray Manager for OVMS (install / repair / uninstall / update)

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  难度 5/5 一周以上 新手友好度 25/100

  openvinotoolkit/model_server#4347 · 1 个 reaction · 2026年6月30日 创建

  维护者通常 2 天内回复

• Qwen3.5-35B-A3B-int4-ov gibberish output during high memory pressure

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  bug

  难度 4/5 3-5 天 新手友好度 52/100

  openvinotoolkit/model_server#4345 · 4 条评论 · 2026年6月30日 创建

  维护者通常 2 天内回复

• Windows build fails on Visual Studio 2026 / newer MSVC toolsets (hardcoded VS2022 + toolset)

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  难度 4/5 3-5 天 新手友好度 25/100

  openvinotoolkit/model_server#4333 · 2026年6月27日 创建

  维护者通常 2 天内回复

• /chat/completions fails ("Chat template not loaded correctly") for VL-derived / omni text decoders — Python-Jinja path leaves template null; MINJA mode would fix it but is not in the 2026.2.x release

  可能重新可做 @dkalinowski 于 95 天前认领，目前没有进行中的 PR。 未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  openvinotoolkit/model_server#4322 · 1 条评论 · 已指派 1 人 · 2026年6月24日 创建

  维护者通常 2 天内回复

• CPU_RUNTIME_CACHE_CAPACITY is unsupported in OVMS plugin_config but works in raw OpenVINO Runtime

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  难度 4/5 3-5 天 新手友好度 48/100

  openvinotoolkit/model_server#4299 · 2 条评论 · 2026年6月19日 创建

  维护者通常 2 天内回复

• Gemma-4-26b-a4b-it-int4-ov gibberish output

  可能重新可做 @dkalinowski 于 101 天前认领，目前没有进行中的 PR。 未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  bug

  openvinotoolkit/model_server#4298 · 7 条评论 · 已指派 1 人 · 2026年6月19日 创建

  维护者通常 2 天内回复

• Feature request: CPU offload / HETERO:GPU,CPU support for models exceeding VRAM in continuous batching

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  难度 5/5 一周以上 新手友好度 35/100

  openvinotoolkit/model_server#4263 · 4 条评论 · 2026年5月29日 创建

  维护者通常 2 天内回复

• generation_config.json path override per LLM node

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  enhancement

  难度 5/5 一周以上 新手友好度 35/100

  openvinotoolkit/model_server#4233 · 5 条评论 · 2026年5月22日 创建

  维护者通常 2 天内回复

• OVMS 2026.1 JSON request parsed successfully but pipeline input text sent to LLM says otherwise

  可能重新可做 @mzegla 于 146 天前认领，目前没有进行中的 PR。 未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  bug

  openvinotoolkit/model_server#4181 · 5 条评论 · 已指派 1 人 · 2026年5月5日 创建

  维护者通常 2 天内回复

• OVMS 2026.1-gpu fails to load OpenVINO/gemma-4-E4B-it-int4-ov with Unsupported 'gemma4' VLM model type

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  bug

  难度 4/5 3-5 天 新手友好度 45/100

  openvinotoolkit/model_server#4178 · 5 条评论 · 2026年5月5日 创建

  维护者通常 2 天内回复

• Unload model from memory/GPU when idle for set period

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  enhancement

  难度 5/5 一周以上 新手友好度 35/100

  openvinotoolkit/model_server#4141 · 3 条评论 · 6 个 reaction · 2026年4月15日 创建

  维护者通常 2 天内回复

• gguf_tensor_to_f16 failed when loading Qwen3.5-9B GGUF model

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  bug

  难度 4/5 3-5 天 新手友好度 35/100

  openvinotoolkit/model_server#4046 · 4 条评论 · 2026年3月8日 创建

  维护者通常 2 天内回复

• OVMS GPU Memory Allocation Issue - Crashes on model load

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  bug

  难度 4/5 3-5 天 新手友好度 42/100

  openvinotoolkit/model_server#4035 · 6 条评论 · 2026年3月4日 创建

  维护者通常 2 天内回复

• OVMS refuses to load models into second or third GPUs.

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  bug

  难度 4/5 3-5 天 新手友好度 45/100

  openvinotoolkit/model_server#3816 · 3 条评论 · 6 个 reaction · 2025年11月25日 创建

  维护者通常 2 天内回复

• Failure to load HETERO models across multi GPU setup.

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  bug

  难度 5/5 一周以上 新手友好度 25/100

  openvinotoolkit/model_server#3812 · 1 条评论 · 2025年11月24日 创建

  维护者通常 2 天内回复

• OVMS load error with HETERO and Qwen3-32B

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  bug

  难度 4/5 3-5 天 新手友好度 42/100

  openvinotoolkit/model_server#3696 · 13 条评论 · 1 个 reaction · 2025年10月12日 创建

  维护者通常 2 天内回复

• OVMS model loading time is much longer than openvino model loading time and crashes from time to time

  可能重新可做 @dkalinowski 于 426 天前认领，目前没有进行中的 PR。 未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  bug

  openvinotoolkit/model_server#3539 · 5 条评论 · 已指派 1 人 · 2025年7月29日 创建

  维护者通常 2 天内回复

• Using openvino-quantized embedder and reranker from huggingface hub

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  难度 5/5 一周以上 新手友好度 25/100

  openvinotoolkit/model_server#3493 · 3 条评论 · 2025年7月10日 创建

  维护者通常 2 天内回复

• I hope the official will add sample code for grpc's java, Android, and web clients. The server deployment is very easy, but the grpc client is not easy.

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  难度 4/5 3-5 天 新手友好度 28/100

  openvinotoolkit/model_server#3204 · 1 条评论 · 2025年4月7日 创建

  维护者通常 2 天内回复

• Significant Inference Time Increase with Multiple Models in OpenVINO Model Server

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  难度 4/5 3-5 天 新手友好度 28/100

  openvinotoolkit/model_server#3136 · 6 条评论 · 2025年3月20日 创建

  维护者通常 2 天内回复

• build from source

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  难度 3/5 1-2 天 新手友好度 35/100

  openvinotoolkit/model_server#3112 · 2 条评论 · 2025年3月10日 创建

  维护者通常 2 天内回复

• Error during llm node initialization for models_path

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  难度 3/5 1-2 天 新手友好度 35/100

  openvinotoolkit/model_server#2912 · 2 条评论 · 2024年12月13日 创建

  维护者通常 2 天内回复

• Got an error from OVMS: rpc error: code = ResourceExhausted desc =

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  bug

  难度 4/5 3-5 天 新手友好度 35/100

  openvinotoolkit/model_server#2871 · 3 条评论 · 2024年11月22日 创建

  维护者通常 2 天内回复

• GLiNER Inference Issue

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  难度 4/5 3-5 天 新手友好度 35/100

  openvinotoolkit/model_server#2858 · 2 条评论 · 2024年11月19日 创建

  维护者通常 2 天内回复

• Model server inference using Python Mediapipe

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  help wanted

  难度 5/5 一周以上 新手友好度 35/100

  openvinotoolkit/model_server#2768 · 4 条评论 · 2024年10月26日 创建

  维护者通常 2 天内回复

• high latency

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  bug

  难度 4/5 3-5 天 新手友好度 38/100

  openvinotoolkit/model_server#2721 · 10 条评论 · 2024年10月7日 创建

  维护者通常 2 天内回复

• OVMS Docker image for ARM?

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  bug

  难度 4/5 3-5 天 新手友好度 45/100

  openvinotoolkit/model_server#2648 · 8 条评论 · 2024年8月28日 创建

  维护者通常 2 天内回复

• Queue policy

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  enhancement

  难度 5/5 一周以上 新手友好度 35/100

  openvinotoolkit/model_server#2543 · 1 条评论 · 2024年7月5日 创建

  维护者通常 2 天内回复

• Model Server hangs when inference on Intel GPU

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  bug

  难度 4/5 3-5 天 新手友好度 35/100

  openvinotoolkit/model_server#2336 · 3 条评论 · 2024年2月23日 创建

  维护者通常 2 天内回复

• vehicle-detection-0202 responds to queries when running on CPU, gives an error when running on GPU

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消

  难度 4/5 3-5 天 新手友好度 35/100

  openvinotoolkit/model_server#2337 · 3 条评论 · 2024年2月19日 创建

  维护者通常 2 天内回复

• [Bug]: Connection reset by peer code 14.

  未关闭

  ⋯反馈这个 Issue 的问题

  • 哪里不对？

  • 已被占
  • 不适合新手
  • 已失效
  • 其他…
  • 发送 取消
  bug

  难度 4/5 3-5 天 新手友好度 25/100

  openvinotoolkit/model_server#2243 · 5 条评论 · 2024年1月5日 创建

  维护者通常 2 天内回复