Achieving true zero-copy with Iceoryx (Shared Memory)
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức phù hợp với người mới
- 25/100
- Loại issue
- Lỗi
- Độ rõ ràng
- Cần làm rõ
- Mức độ hoạt động
- Đình trệ
- Công nghệ
- numpy, python
- Lĩnh vực
- distributed-systems
Hướng nghiên cứu
Bắt đầu từ việc xây dựng CameraImage_type và đường đi writer.write(msg_instance), tái hiện trường hợp memoryview bằng IDL được cung cấp và lỗi xảy ra sau khoảng 30 lần gọi. Hoàn tất nghĩa là các message hình ảnh lớn được publish ổn định mà không gặp lỗi mã hóa, với hành vi zero-copy được ghi tài liệu hoặc bị giới hạn bởi phần triển khai.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Hi everyone, I've been trying to use this library with CycloneDDS and Iceoryx. I built both libraries from source and can verify everything works from examples & benchmarks.
However, I'm struggling to achieve true zero-copy for large messages (raw images; ~5 MiB/image, 24 Hz). This is my sample IDL:
module TestMessage {
struct CameraImage {
unsigned long width;
unsigned long height;
sequence<octet> image_data;
};
};
Given a numpy array, I can use arr.to_bytes() to publish the message. However, it takes ~350 ms to do so:
msg_instance = CameraImage_type(
width=arr.shape[1],
height=arr.shape[0],
image_data=arr.to_bytes()
)
self.writer.write(msg_instance)
Using np.ascontiguousarray() and memoryview, I can get it down to ~0.1 ms:
contiguous_arr = np.ascontiguousarray(image_np)
c_buffer = memoryview(contiguous_arr.data)
msg_instance = CameraImage_type(
width=contiguous_arr.shape[1],
height=contiguous_arr.shape[0],
image_data=c_buffer
)
self.writer.write(msg_instance)
BUT it quickly fails (~30 calls) with this error:
Failed to encode member image_data, value is <memory at 0x72118cf35990>
I was guessing that Python garbage collection is not in tune with CycloneDDS & Iceoryx. So I tried keeping explicit references to the last 1000 references to both contiguous_arr and c_buffer in a collection.deque() - without success.
Is there another way of making this work?
Best
Fabian
- Ngôn ngữ chính
- Python
- Star
- 110
- Fork
- 68
- Merge trung bình
- 3 ngày 5 giờ
- Pull request đã merge (30 ngày)
- 1
Chuẩn bị môi trường
Dự án này không cung cấp dev container, Dockerfile hay hướng dẫn đóng góp, nên bạn cần tự thiết lập môi trường: hãy bắt đầu từ README và xem hướng dẫn đóng góp lần đầu của chúng tôi để biết các bước chung.
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của eclipse-cyclonedds/cyclonedds-python
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 52/100
-
Generated Python code is not interoperable when a union contains a member called "value"Có thể làm lại được Pull request cho issue này đã bị đóng mà không được merge. Đang mở
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 58/100
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100
eclipse-cyclonedds/cyclonedds-python#333 · 1 bình luận ·
Tất cả issue của eclipse-cyclonedds/cyclonedds-python
Issue tương tự
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 66/100
-
[Bug]: Queen's own Ollama model loses num_ctx when a running session switches to itCó thể đã có người làm @anasamin26 đã nhận hôm nay. Đang mởbug enhancement
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
aden-hive/hive#7508 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
llm translation
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
BerriAI/litellm#47884 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
Maintainer thường phản hồi trong vòng 1 ngày
-
bug 🐛
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
netalertx/NetAlertX#1856 · 1 reaction ·
Maintainer thường phản hồi trong vòng 1 ngày