Enable tool calling support
@mgsalem ci sta già lavorando.
Dal 15/6/2026.
Valutazione
Questa issue non è ancora stata valutata.
Descrizione
Is your feature request related to a problem? Please describe.
I want to use the models available via vector-inference to build an agent for a research project.
Describe the solution you'd like
Launch vllm with tool calling enabled as described here: https://docs.vllm.ai/en/latest/features/tool_calling/
Describe alternatives you've considered
A clear and concise description of any alternative solutions or features you've considered.
Additional context
Add any other context or screenshots about the feature request here.
- Lingua principale
- Python
- Stelle
- 110
- Fork
- 14
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Ha un modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di VectorInstitute/vector-inference
-
is_server_running marks a healthy job FAILED on libfabric `<warn>` lines (matches "unable to")Aperta
Difficoltà 3/5 1-2 giorni Idoneità per principianti 72/100
-
New model request for Qwen3.8-27B on KillarneyForse di nuovo libera @mgsalem l’ha presa 61 giorni fa e non c’è nessuna pull request aperta. Apertanew model
VectorInstitute/vector-inference#303 · 1 assegnatario ·
-
New model request for Muse-Glimmer-30B on KillarneyForse di nuovo libera @mgsalem l’ha presa 61 giorni fa e non c’è nessuna pull request aperta. Apertanew model
VectorInstitute/vector-inference#302 · 1 assegnatario ·
-
New model request for Llama 4Forse di nuovo libera @msalem195 l’ha presa 176 giorni fa e non c’è nessuna pull request aperta. Apertanew model
VectorInstitute/vector-inference#216 · 1 commento · 1 assegnatario ·
Tutte le issue di VectorInstitute/vector-inference
Issue simili
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
huggingface/sentence-transformers#4186 ·
I maintainer di solito rispondono entro 5 giorni
-
documentation
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 92/100
QuantEcon/QuantEcon.py#988 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
fabriziosalmi/certmate#1247 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
I maintainer di solito rispondono entro 1 giorno
-
documentation good first issue
Difficoltà 2/5 Mezza giornata Idoneità per principianti 72/100
sujithputta02/Esapay#13 ·