Achieving true zero-copy with Iceoryx (Shared Memory)
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Aptitud para principiantes
- 25/100
- Tipo de issue
- Error
- Claridad
- Necesita aclaración
- Estado de actividad
- Estancado
- Stack tecnológico
- numpy, python
- Área
- distributed-systems
Línea de trabajo
Empieza en la construcción de CameraImage_type y la ruta writer.write(msg_instance), reproduciendo el caso de memoryview con la IDL proporcionada y el fallo después de unas 30 llamadas. Se considera terminado cuando los mensajes de imagen grandes se publican de forma fiable sin el error de codificación y el comportamiento zero-copy está documentado o limitado por la implementación.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Hi everyone, I've been trying to use this library with CycloneDDS and Iceoryx. I built both libraries from source and can verify everything works from examples & benchmarks.
However, I'm struggling to achieve true zero-copy for large messages (raw images; ~5 MiB/image, 24 Hz). This is my sample IDL:
module TestMessage {
struct CameraImage {
unsigned long width;
unsigned long height;
sequence<octet> image_data;
};
};
Given a numpy array, I can use arr.to_bytes() to publish the message. However, it takes ~350 ms to do so:
msg_instance = CameraImage_type(
width=arr.shape[1],
height=arr.shape[0],
image_data=arr.to_bytes()
)
self.writer.write(msg_instance)
Using np.ascontiguousarray() and memoryview, I can get it down to ~0.1 ms:
contiguous_arr = np.ascontiguousarray(image_np)
c_buffer = memoryview(contiguous_arr.data)
msg_instance = CameraImage_type(
width=contiguous_arr.shape[1],
height=contiguous_arr.shape[0],
image_data=c_buffer
)
self.writer.write(msg_instance)
BUT it quickly fails (~30 calls) with this error:
Failed to encode member image_data, value is <memory at 0x72118cf35990>
I was guessing that Python garbage collection is not in tune with CycloneDDS & Iceoryx. So I tried keeping explicit references to the last 1000 references to both contiguous_arr and c_buffer in a collection.deque() - without success.
Is there another way of making this work?
Best
Fabian
- Lenguaje dominante
- Python
- Estrellas
- 110
- Forks
- 68
- Merge medio
- 3 d 5 h
- PR fusionados (30 d)
- 1
Preparar el entorno
Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de eclipse-cyclonedds/cyclonedds-python
-
Dificultad 4/5 3-5 días Aptitud para principiantes 52/100
-
Generated Python code is not interoperable when a union contains a member called "value"Quizá libre de nuevo Un pull request para esta issue se cerró sin fusionarse. Abierto
Dificultad 3/5 1-2 días Aptitud para principiantes 58/100
-
Dificultad 4/5 3-5 días Aptitud para principiantes 48/100
-
Dificultad 4/5 3-5 días Aptitud para principiantes 45/100
-
Dificultad 4/5 3-5 días Aptitud para principiantes 48/100
eclipse-cyclonedds/cyclonedds-python#333 · 1 comentario ·
Todos los issues de eclipse-cyclonedds/cyclonedds-python
Issues similares
-
Use mhctools predictor_required=False for saved-result rescoringPosiblemente ocupada @iskandr la tomó hoy. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 79/100
-
Dificultad 1/5 Menos de una hora Aptitud para principiantes 85/100
521xueweihan/HelloGitHub#4051 · 1 comentario ·
-
bug documentation
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
awslabs/visual-asset-management-system#514 ·
Los mantenedores suelen responder en 1 día
-
backend bug spec:REQ-053
Dificultad 2/5 1-3 horas Aptitud para principiantes 66/100
nolte/kamerplanter#2547 ·
Los mantenedores suelen responder en 1 día