Hacktoberfest 2026: những issue maintainer đã đánh dấu cho tháng Mười, đang mở và phù hợp người mới. Xem issue Hacktoberfest

opencode tool_calls problem with OpenVINO/Qwen3-Coder-30B-A3B-Instruct-int4-ov

Đang mở
  • Có gì không ổn?
#4,599 4 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 2 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
4/5
Thời gian dự kiến
3-5 ngày
Mức phù hợp với người mới
45/100
Loại issue
Lỗi
Độ rõ ràng
Khá rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
python
Lĩnh vực
ai-infra-agents, backend-api-design, tooling

Hướng nghiên cứu

The issue involves the interaction between opencode and the OpenVINO Model Server (ovms) using a specific Qwen3-Coder model. Start by examining the ovms logs linked in the gist to identify malformed JSON in the API response. Look at the tool_parser and reasoning_parser implementations for Qwen3-Coder models in the ovms codebase. Reproduce the setup with the exact ovms launch command and observe the JSON output in the opencode console to understand the discrepancy.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

bug

Describe the bug
When using opencode against ovms with OpenVINO/Qwen3-Coder-30B-A3B-Instruct-int4-ov at some point after a few steps, I get json-output in the opencode console, I guess something with the API response of ovms is slightly wrong:

Image

This does not happen with non-coder Qwen3 models I tested.

It does also happen with the coder model when omitting the --tool_parser qwen3coder --reasoning_parser qwen3 --enable_tool_guided_generation true options.

To Reproduce
Steps to reproduce the behavior:

  1. Launch the ovms command with --pull to get the model
  2. OVMS launch command: ovms --source_model OpenVINO/Qwen3-Coder-30B-A3B-Instruct-int4-ov --model_repository_path models --task text_generation --rest_bind_address 127.0.0.1 --rest_port 8000 --target_device GPU --tool_parser qwen3coder --reasoning_parser qwen3 --enable_tool_guided_generation true --cache_size 2 --log_level TRACE
  3. Client command: opencode
  4. See error

Expected behavior
opencode should just work?

Logs
see https://gist.github.com/mmoll/723fd621dd2f2bfb1fb5871ce4b549ab

Configuration

  1. OpenVINO and ovms version: 2026.4.0

Additional context
Add any other context about the problem here.

Ngôn ngữ chính
C++
Star
932
Fork
278
Merge trung bình
2 ngày 19 giờ
Pull request đã merge (30 ngày)
62

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của openvinotoolkit/model_server

Tất cả issue của openvinotoolkit/model_server

Issue tương tự

Thêm issue về C++

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.