Vulkan vs XNNPACK: per model divergences across devices

Đang mở
  • Có gì không ổn?
#1,488 1 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
4/5
Thời gian dự kiến
3-5 ngày
Mức phù hợp với người mới
45/100
Loại issue
Lỗi
Độ rõ ràng
Khá rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
react-native, typescript
Lĩnh vực
ai, mobile, performance

Hướng nghiên cứu

Start by reading the linked comment for the Galaxy S10+/S20+ device pair to understand the data format and the 7 models that flip. Run the benchmarks in apps/benchmarks to reproduce the measurements on a test device. Examine the code that decides between Vulkan and XNNPACK backends to see how per-model defaults are currently set. The goal is to document each device pair's divergences, not to implement a fix.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

performance platform: android

Tracking issue for cases where the Vulkan vs XNNPACK verdict changes between devices, so one per-platform registry default cannot be right for the whole fleet.

One comment per device pair. Each carries the full paired dataset, the models that flip, and what they imply for defaults.

A Vulkan vs XNNPACK ratio is a GPU/CPU quotient, so it does not transfer across devices: a phone with a strong CPU relative to its GPU reads as "Vulkan loses" on models where another phone reads the opposite. The ratio also moves with input length, because Vulkan carries a fixed per-inference dispatch cost. Peak memory is so far the only axis that holds steady across devices.

Measured with apps/benchmarks (#1363) so every device runs the same protocol and the same synthetic inputs.

Device pairs

Ngôn ngữ chính
TypeScript
Star
1.8k
Fork
101
Merge trung bình
2 ngày 5 giờ
Pull request đã merge (30 ngày)
57

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của software-mansion/react-native-executorch

Tất cả issue của software-mansion/react-native-executorch

Issue tương tự

Thêm issue về TypeScript

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.