support for vLLM deployment

Aperta

#66 aperta il 14/7/2025 1 commento 0 reazioni 0 assegnatari Vedi su GitHub

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà: 4/5
Tempo stimato: 3-5 giorni
Idoneità per principianti: 25/100

Tipo di issue: Funzionalità
Chiarezza: Da chiarire
Stato di attività: Ferma
Stack tecnologico: python
Ambito: devops, machine-learning

Direzione di ricerca

Non vengono indicati file, test o punti di ingresso. Inizia esaminando le istruzioni attuali per il deployment del repository e i punti di ingresso per il model serving, quindi determina se il deployment con vLLM è supportato e quale configurazione o documentazione sarebbe necessaria per rendere la risposta riproducibile.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

Does VideoChat-Flash support vLLM deployment? How to deploy it？

Lingua principale: Python
Stelle: 530
Fork: 20
Metriche di merge delle PR: Nessuna PR unita negli ultimi 30g

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Come iniziare

Leggi tutta la issue e poi la guida ai contributi del progetto.
Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
Fai un fork del repository e lavora su un branch.
Apri una pull request che faccia riferimento al numero della issue.

Altre issue di OpenGVLab/VideoChat-Flash

Verify evals on Papers with Code Aperta

Difficoltà 2/5 1-3 ore Idoneità per principianti 55/100

OpenGVLab/VideoChat-Flash#75 · Aperta il 28/8/2026
baseline is qwen2.5vl Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100

OpenGVLab/VideoChat-Flash#72 · Aperta il 2/11/2025
请问微调Internvideo2.5大概需要多大显存，2*h100是否足够？ Aperta

Difficoltà 1/5 Meno di un'ora Idoneità per principianti 15/100

OpenGVLab/VideoChat-Flash#67 · 5 commenti · Aperta il 14/7/2025
[Q] InternVideo 2.5,, TPO Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 20/100

OpenGVLab/VideoChat-Flash#61 · 1 commento · Aperta il 30/5/2025
Support for LoRA finetuning. Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 20/100

OpenGVLab/VideoChat-Flash#56 · 3 commenti · Aperta il 2/5/2025

Tutte le issue di OpenGVLab/VideoChat-Flash

Issue simili

PATCH /interviews/{id} 的 goal 字段没有任何长度上限，500KB 字符串直接落库且每次 GET detail 都全量带回 Aperta

bug

Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100

xinnan-tech/xiaozhi-fde-talk#263 · Aperta il 24/9/2026
rules: REQ-0480 'left fold' jargon is redundant with its own plain restatement Aperta

rules

Difficoltà 1/5 Meno di un'ora Idoneità per principianti 90/100

elong0527/yamaa#978 · Aperta il 24/9/2026
Validation discards output from runners that report on stderr (jest, unittest) Aperta

Difficoltà 2/5 1-3 ore Idoneità per principianti 70/100

huggingface/Repo2RLEnv#163 · 1 commento · Aperta il 24/9/2026
Source link in quantize_embeddings have shifted code highlights Aperta

Difficoltà 1/5 Meno di un'ora Idoneità per principianti 95/100

huggingface/sentence-transformers#4074 · Aperta il 24/9/2026
Queue insertion button ("插入排队消息") missing in api_server sessions — canInsert allowlist only covers cli/global_agent Aperta

comp/dashboard invalid P3

Difficoltà 2/5 1-3 ore Idoneità per principianti 70/100

NousResearch/hermes-agent#121143 · Aperta il 24/9/2026

Altre issue su Python