decode & decode_iter 多线程会不会有问题
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Aptitud para principiantes
- 20/100
Línea de trabajo
Comienza rastreando los puntos de entrada decode y decode_iter del modelo y comprobando cómo comparten el estado cuando se llaman desde varios hilos. Busca en el repositorio pruebas o documentación existentes sobre concurrencia; el trabajo estará terminado cuando haya una conclusión clara y basada en evidencias sobre la seguridad frente a hilos, junto con cualquier actualización necesaria de las pruebas o la documentación.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
如果多个线程同时使用model的 decode 和 decode_iter方法，会不会有问题？
- Lenguaje dominante
- C++
- Estrellas
- 752
- Forks
- 94
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Preparar el entorno
Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de MegEngine/InferLLM
-
SG2042 服务器 make 出错Abierto
Dificultad 4/5 3-5 días Aptitud para principiantes 30/100
-
无法加载模型bin或者guff模型Abierto
Dificultad 4/5 3-5 días Aptitud para principiantes 25/100
-
有打算支持qwen吗Abierto
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100
-
在树莓派3b+上部署，出现无法打开模型的问题Abierto
Dificultad 4/5 3-5 días Aptitud para principiantes 20/100
-
这个有windows的部署教程吗Abierto
Dificultad 3/5 1-2 días Aptitud para principiantes 35/100
Todos los issues de MegEngine/InferLLM
Issues similares
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 64/100
utopia-rise/godot-jvm#1004 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 70/100
Los mantenedores suelen responder en 3 días
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 70/100
Los mantenedores suelen responder en 1 día
-
new contributor
Dificultad 2/5 1-3 horas Aptitud para principiantes 65/100
OpenMS/OpenMS#10512 · 1 comentario ·
Los mantenedores suelen responder en 1 día
-
Component: R
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
Los mantenedores suelen responder en 1 día