opencode tool_calls problem with OpenVINO/Qwen3-Coder-30B-A3B-Instruct-int4-ov

I maintainer di solito rispondono entro 1 giorno

Valutazione

Direzione di ricerca

Descrizione

Describe the bug
When using opencode against ovms with OpenVINO/Qwen3-Coder-30B-A3B-Instruct-int4-ov at some point after a few steps, I get json-output in the opencode console, I guess something with the API response of ovms is slightly wrong:

This does not happen with non-coder Qwen3 models I tested.

It does also happen with the coder model when omitting the --tool_parser qwen3coder --reasoning_parser qwen3 --enable_tool_guided_generation true options.

To Reproduce
Steps to reproduce the behavior:

1. Launch the ovms command with --pull to get the model
2. OVMS launch command: ovms --source_model OpenVINO/Qwen3-Coder-30B-A3B-Instruct-int4-ov --model_repository_path models --task text_generation --rest_bind_address 127.0.0.1 --rest_port 8000 --target_device GPU --tool_parser qwen3coder --reasoning_parser qwen3 --enable_tool_guided_generation true --cache_size 2 --log_level TRACE
3. Client command: opencode
4. See error

Expected behavior
opencode should just work?

Logs
see https://gist.github.com/mmoll/723fd621dd2f2bfb1fb5871ce4b549ab

Configuration

1. OpenVINO and ovms version: 2026.4.0

Additional context
Add any other context about the problem here.

Preparare l'ambiente

Come iniziare

1. Leggi tutta la issue e poi la guida ai contributi del progetto.
2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
3. Fai un fork del repository e lavora su un branch.
4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di openvinotoolkit/model_server

• /v3/audio/speech ignores response_format and always returns 32-bit float WAV

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 3/5 1-2 giorni Idoneità per principianti 58/100

  openvinotoolkit/model_server#4613 · 1 assegnatario · Aperta il 28/9/2026

  I maintainer di solito rispondono entro 1 giorno

• /models REST endpoint lacks context size

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  enhancement

  Difficoltà 3/5 1-2 giorni Idoneità per principianti 68/100

  openvinotoolkit/model_server#4609 · 1 commento · Aperta il 26/9/2026

  I maintainer di solito rispondono entro 1 giorno

• `/v3/models` lists every model twice when `group_name` and `--idle_unload_timeout_seconds` are combined

  Forse già presa @atobiszei l’ha presa 5 giorni fa. Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  openvinotoolkit/model_server#4604 · 1 reazione · 1 assegnatario · Aperta il 25/9/2026

  I maintainer di solito rispondono entro 1 giorno

• Idle unload never happens again if the client disconnects while a sleeping graph is waking up

  Forse già presa @atobiszei l’ha presa 5 giorni fa. Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  openvinotoolkit/model_server#4603 · 1 assegnatario · Aperta il 25/9/2026

  I maintainer di solito rispondono entro 1 giorno

• OVMS tools call for Gemma 4 E4B failed

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 3/5 1-2 giorni Idoneità per principianti 55/100

  openvinotoolkit/model_server#4586 · 3 commenti · Aperta il 18/9/2026

  I maintainer di solito rispondono entro 1 giorno

Tutte le issue di openvinotoolkit/model_server

Issue simili

• Broken links in the docs

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 1/5 Meno di un'ora Idoneità per principianti 85/100

  microsoft/onnxruntime#33018 · Aperta il 1/10/2026

  I maintainer di solito rispondono entro 2 giorni

• Unpin breathe<5 once breathe-doc/breathe#1085 is released

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 1/5 Meno di un'ora Idoneità per principianti 78/100

  NVIDIA/cccl#11777 · Aperta il 30/9/2026

  I maintainer di solito rispondono entro 1 giorno

• DataLakeFileSystemClient::ListPaths() throws JSON exception due to accessing undefined fields

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  customer-reported needs-triage question

  Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100

  Azure/azure-sdk-for-cpp#7435 · Aperta il 30/9/2026

  I maintainer di solito rispondono entro 1 giorno

• [Brewfest] Wrong lines spoken during barking dailies

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  ChromieCraft Generic Confirmed World Event

  Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100

  azerothcore/azerothcore-wotlk#27882 · Aperta il 30/9/2026

  I maintainer di solito rispondono entro 1 giorno

• MacOS build failure

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  bug

  Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100

  aristocratos/btop#1874 · Aperta il 30/9/2026

  I maintainer di solito rispondono entro 1 giorno

Altre issue su C++