OVMS tools call for Gemma 4 E4B failed
I maintainer di solito rispondono entro 1 giorno
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 3/5
- Tempo stimato
- 1-2 giorni
- Idoneità per principianti
- 55/100
Direzione di ricerca
Inizia dal comportamento del parser degli strumenti di OVMS selezionato da --tool_parser gemma4 e confronta la sua risposta con il formato tool_calls previsto mostrato nel report. Riproduci la richiesta usando Gemma 4 E4B su Linux, determina se la configurazione può modificare il formato e considera l’issue conclusa quando lo schema restituito corrisponde al formato previsto oppure viene documentata la limitazione della personalizzazione.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
I am setting up an OVMS for Linux, OpenCode and Gemma 4 E4B.
And I see that tools call request has some another tool call format:
Expected:
{ "tool_calls": [ { "type": "function", "function": { "name": "write", "arguments": "{"content": "TEXT", "filePath": "/absolute/path/file.txt"}" } } ] }
Got:
User
Try to save some small file first
Assistant (Build · ovms.gemma-4-e4b (local) · 7.1s)
{
"tool_calls": [
{
"name": "write",
"arguments": {
"filePath": "small_file.txt",
"content": "This is a small test file."
}
}
]
}
As you can see there are some differences in JSON. Is there a way to change/customize this without code change?
How do I run ovms:
ovms --model_name gemma-4-e4b
--model_path ./gemma-4-e4b-ov-int4
--target_device $DEVICE
--port 9080
--rest_port 8080
--cache_dir ./gemma-4-e4b-ov-int4/npu_cache
--log_level $LOG_LEVEL
--tool_parser gemma4
My config:
Ubuntu 24.04.5 LTS
6.17.0-1032-oem
Intel© Core™ Ultra 7 265H × 16
OpenVINO Model Server 2026.3.0.6f3df706b
- Lingua principale
- C++
- Stelle
- 932
- Fork
- 278
- Merge medio
- 3g 5h
- PR unite (30g)
- 70
Preparare l'ambiente
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di openvinotoolkit/model_server
-
Difficoltà 3/5 1-2 giorni Idoneità per principianti 58/100
openvinotoolkit/model_server#4613 · 1 assegnatario ·
I maintainer di solito rispondono entro 1 giorno
-
enhancement
Difficoltà 3/5 1-2 giorni Idoneità per principianti 68/100
openvinotoolkit/model_server#4609 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
`/v3/models` lists every model twice when `group_name` and `--idle_unload_timeout_seconds` are combinedForse già presa @atobiszei l’ha presa 5 giorni fa. Aperta
openvinotoolkit/model_server#4604 · 1 reazione · 1 assegnatario ·
I maintainer di solito rispondono entro 1 giorno
-
Idle unload never happens again if the client disconnects while a sleeping graph is waking upForse già presa @atobiszei l’ha presa 5 giorni fa. Aperta
openvinotoolkit/model_server#4603 · 1 assegnatario ·
I maintainer di solito rispondono entro 1 giorno
-
bug
Difficoltà 4/5 3-5 giorni Idoneità per principianti 45/100
openvinotoolkit/model_server#4599 · 4 commenti ·
I maintainer di solito rispondono entro 1 giorno
Tutte le issue di openvinotoolkit/model_server
Issue simili
-
Broken links in the docsAperta
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 85/100
microsoft/onnxruntime#33018 ·
I maintainer di solito rispondono entro 2 giorni
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 78/100
I maintainer di solito rispondono entro 1 giorno
-
DataLakeFileSystemClient::ListPaths() throws JSON exception due to accessing undefined fieldsApertacustomer-reported needs-triage question
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
Azure/azure-sdk-for-cpp#7435 ·
I maintainer di solito rispondono entro 1 giorno
-
ChromieCraft Generic Confirmed World Event
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
azerothcore/azerothcore-wotlk#27882 ·
I maintainer di solito rispondono entro 1 giorno
-
MacOS build failureApertabug
Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100
aristocratos/btop#1874 ·
I maintainer di solito rispondono entro 1 giorno