New Container: vLLM
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Aptitud para principiantes
- 35/100
- Tipo de issue
- Nueva funcionalidad
- Claridad
- Necesita aclaración
- Estado de actividad
- Estancado
- Stack tecnológico
- docker, python
- Área
- devtools, testing-qa
Línea de trabajo
Revisa el objeto Ollama existente y la organización actual de los objetos contenedor del repositorio como puntos de partida. La tarea se considera completada cuando se proporcione un objeto vLLM configurable y programático, adecuado para pruebas, y se aborden los problemas de cobertura y rendimiento descritos en la issue.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
What is the new container you'd like to have?
A vLLM object container would serve testing and usage better.
Why not just use a generic container for this?
The Ollama object is not maintained against Ollama, which causes several issues:
- Performance: Ollama performs poorly with batch sizes of 50+ requests.
- Functionality: The new "search functionality" in Ollama requires
ollama keys, which are not supported in the current object. - Coverage & Quality: Ollama’s coverage and performance are lower compared to vLLM.
Why vLLM?
The vLLM object allows development and testing in a highly configurable, programmatic way, improving the overall testing experience.
Other references
- Lenguaje dominante
- Python
- Estrellas
- 2.3k
- Forks
- 386
- Merge medio
- 4 h 40 min
- PR fusionados (30 d)
- 1
Guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de testcontainers/testcontainers-python
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 88/100
testcontainers/testcontainers-python#1115 · 1 reacción ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
-
Updating the documentation Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 67/100
testcontainers/testcontainers-python#1086 · 1 comentario ·
-
Bug: [minio] _healthcheck calls for nested wait_container_is_ready resulting in long wait time Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
testcontainers/testcontainers-python#578 · 5 comentarios ·
-
Dificultad 3/5 1-2 días Aptitud para principiantes 65/100
Todos los issues de testcontainers/testcontainers-python
Issues similares
-
bug confirmed issue
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
open-webui/open-webui#30750 · 1 comentario ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
-
enhancement
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
OpenwaterHealth/openmotion-bloodflow-app#604 · 1 comentario ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 70/100
-
good first issue
Dificultad 1/5 Menos de una hora Aptitud para principiantes 90/100