[FEATURE] Question: why does CPM1.0 need 2 GPU cards while BMInf only need 1 GPU?
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Aptitud para principiantes
- 25/100
- Tipo de issue
- Documentación
- Claridad
- Necesita aclaración
- Estado de actividad
- Estancado
- Stack tecnológico
- python
- Área
- machine-learning, performance
Línea de trabajo
Comienza comparando cómo CPM1.0 y BMInf gestionan la memoria de la GPU durante la inferencia, utilizando la implementación del repositorio y la documentación existente. Identifica de dónde procede la diferencia en los requisitos de tarjetas GPU y, a continuación, documenta una explicación clara de la optimización y del uso de recursos esperado.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
where does it optimized?
- Lenguaje dominante
- Python
- Estrellas
- 587
- Forks
- 67
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Preparar el entorno
- Incluye un Dockerfile o un archivo de Docker Compose
- Sin plantilla de pull request
- Leer la guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de OpenBMB/BMInf
-
Dificultad 4/5 3-5 días Aptitud para principiantes 30/100
-
为什么实际的显存占用总比我设置的多两个G?Abierto
Dificultad 4/5 3-5 días Aptitud para principiantes 25/100
-
[BUG] GPU RTX4090 report errorsAbierto
Dificultad 4/5 3-5 días Aptitud para principiantes 30/100
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 20/100
-
在使用CPM ANT+上使用BMinf时报错:Abierto
Dificultad 3/5 1-2 días Aptitud para principiantes 25/100
Todos los issues de OpenBMB/BMInf
Issues similares
-
enhancement
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
glossyio/traffic-monitor#264 ·
Los mantenedores suelen responder en 1 día
-
Add self-hostAbierto
Dificultad 1/5 Menos de una hora Aptitud para principiantes 75/100
Atarity/deploy-your-own-saas#102 ·
-
[Bug]: RDFlex silently drops the covariate adjustment when the outcome or treatment column is integer-typedPosiblemente ocupada @vrjdev la tomó hoy. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
DoubleML/doubleml-for-py#424 ·
Los mantenedores suelen responder en 1 día
-
agentic-dmx docs enhancement
Dificultad 1/5 1-3 horas Aptitud para principiantes 86/100
-
Dificultad 1/5 Menos de una hora Aptitud para principiantes 72/100
521xueweihan/HelloGitHub#4150 ·