请问lmdeploy如何在多卡部署
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 2/5
- Tiempo estimado
- 1-3 horas
- Aptitud para principiantes
- 35/100
- Tipo de issue
- Documentación
- Claridad
- Necesita aclaración
- Estado de actividad
- Estancado
- Área
- ai
Línea de trabajo
Comienza con el comando lmdeploy serve api_server mencionado en el issue y verifica la forma documentada de realizar el despliegue en varias GPUs. Se considera terminado cuando se haya añadido a la documentación del tutorial correspondiente una guía clara y probada sobre el uso de varias GPUs, incluido el comando o la configuración que deben aplicar los usuarios.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
输入命令lmdeploy serve api_server后，默认是在单卡（0号卡）上部署，请问怎么实现在多卡上部署？
- Lenguaje dominante
- Python
- Estrellas
- 2k
- Forks
- 1.5k
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Guía de contribución
No hay ninguna guía de contribución indexada para este repositorio
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de InternLM/Tutorial
-
ch2_python_intro.md 中逻辑运算符示例有错 Abierto
Dificultad 1/5 Menos de una hora Aptitud para principiantes 85/100
-
ch2_python_intro.md 中集合的定义有错 Abierto
Dificultad 1/5 Menos de una hora Aptitud para principiantes 65/100
-
使用100%A100运行报错 Abierto
Dificultad 4/5 3-5 días Aptitud para principiantes 30/100
-
test Abierto
Dificultad 5/5 Más de una semana Aptitud para principiantes 1/100
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 20/100
Todos los issues de InternLM/Tutorial
Issues similares
-
essnmx good first issue
Dificultad 1/5 Menos de una hora Aptitud para principiantes 95/100
-
[Feature] 奇物选择添加优先级 Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 65/100
syfoud/Simulated_Scepter#174 ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
Giskard-AI/giskard-oss#2840 · 1 comentario ·
-
A claim comment carrying the issue number is silently declined while the workflow reports success Abiertoarea: repo bug perceived difficulty: 2
Dificultad 2/5 1-3 horas Aptitud para principiantes 70/100
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
yeti-platform/yeti#1380 ·