vllm-project/vllm-omni

[Feature]: Support Container Image Format -> ARM64

Open

#195 aberto em 4 de dez. de 2025

Ver no GitHub
 (10 comments) (0 reactions) (0 assignees)Python (1.067 forks)github user discovery
help wanted

Métricas do repositório

Stars
 (4.990 stars)
Métricas de merge de PR
 (Métricas PR pendentes)

Description

🚀 The feature, motivation and pitch

NVIDIA Jetson Series Device, Hope to can be run Omni Model

Alternatives

No response

Additional context

No response

Before submitting a new issue...

  • Make sure you already searched for relevant issues, and asked the chatbot living at the bottom right corner of the documentation page, which can answer lots of frequently asked questions.

Guia do colaborador

Direção de pesquisa
Investigue como modificar o processo de construção do contêiner para suportar a arquitetura ARM64, especialmente para dispositivos NVIDIA Jetson. Verifique o Dockerfile atual e os scripts CI/CD para construção multiplataforma. Use o suporte de construção multi arquitetura do Docker (buildx) para criar imagens ARM64. Certifique se de que todas as dependências (ex. PyTorch, CUDA) estejam disponíveis no ARM64. Teste a imagem construída em um dispositivo Jetson.
Pilha de tecnologia
pythondocker
Domain
backendinfrastructure
Tipo Issue
Funcionalidade
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
Meio dia
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
PythonDocker
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
60