OVMS tools call for Gemma 4 E4B failed
Maintainer thường phản hồi trong vòng 2 ngày
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 3/5
- Thời gian dự kiến
- 1-2 ngày
- Mức phù hợp với người mới
- 55/100
Hướng nghiên cứu
Bắt đầu với hành vi của tool-parser trong OVMS được chọn bởi --tool_parser gemma4 và so sánh phản hồi của nó với định dạng tool_calls mong đợi được nêu trong báo cáo. Tái hiện yêu cầu bằng Gemma 4 E4B trên Linux, xác định liệu cấu hình có thể thay đổi định dạng hay không, và coi issue là hoàn tất khi schema được trả về khớp với định dạng mong đợi hoặc giới hạn tùy chỉnh được ghi lại.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
I am setting up an OVMS for Linux, OpenCode and Gemma 4 E4B.
And I see that tools call request has some another tool call format:
Expected:
{ "tool_calls": [ { "type": "function", "function": { "name": "write", "arguments": "{"content": "TEXT", "filePath": "/absolute/path/file.txt"}" } } ] }
Got:
User
Try to save some small file first
Assistant (Build · ovms.gemma-4-e4b (local) · 7.1s)
{
"tool_calls": [
{
"name": "write",
"arguments": {
"filePath": "small_file.txt",
"content": "This is a small test file."
}
}
]
}
As you can see there are some differences in JSON. Is there a way to change/customize this without code change?
How do I run ovms:
ovms --model_name gemma-4-e4b
--model_path ./gemma-4-e4b-ov-int4
--target_device $DEVICE
--port 9080
--rest_port 8080
--cache_dir ./gemma-4-e4b-ov-int4/npu_cache
--log_level $LOG_LEVEL
--tool_parser gemma4
My config:
Ubuntu 24.04.5 LTS
6.17.0-1032-oem
Intel© Core™ Ultra 7 265H × 16
OpenVINO Model Server 2026.3.0.6f3df706b
- Ngôn ngữ chính
- C++
- Star
- 932
- Fork
- 278
- Merge trung bình
- 2 ngày 15 giờ
- Pull request đã merge (30 ngày)
- 60
Chuẩn bị môi trường
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của openvinotoolkit/model_server
-
bug
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 68/100
openvinotoolkit/model_server#4609 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 2 ngày
-
`/v3/models` lists every model twice when `group_name` and `--idle_unload_timeout_seconds` are combinedCó thể đã có người làm @atobiszei đã nhận 3 ngày trước. Đang mở
openvinotoolkit/model_server#4604 · 1 người được giao ·
Maintainer thường phản hồi trong vòng 2 ngày
-
Idle unload never happens again if the client disconnects while a sleeping graph is waking upCó thể đã có người làm @atobiszei đã nhận 3 ngày trước. Đang mở
openvinotoolkit/model_server#4603 · 1 người được giao ·
Maintainer thường phản hồi trong vòng 2 ngày
-
bug
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100
openvinotoolkit/model_server#4599 · 4 bình luận ·
Maintainer thường phản hồi trong vòng 2 ngày
-
bug
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 52/100
openvinotoolkit/model_server#4580 · 3 bình luận ·
Maintainer thường phản hồi trong vòng 2 ngày
Tất cả issue của openvinotoolkit/model_server
Issue tương tự
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 92/100
sandialabs/seacas#945 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
ROCm/FastFlowLM#757 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
WaterHeaterManagement: tank_percent feature reports wrong feature id (FeatureMap corruption)Đang mở
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 92/100
espressif/esp-matter#1867 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 68/100
mltframework/shotcut#1920 ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
Maintainer thường phản hồi trong vòng 1 ngày