RFC: `xpx.compile` as an abstraction for `torch.compile` and `jax.jit` decorators?
Maintainer thường phản hồi trong vòng 1 ngày
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 5/5
- Thời gian dự kiến
- Hơn một tuần
- Mức phù hợp với người mới
- 25/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Cần làm rõ
- Mức độ hoạt động
- Đình trệ
- Lĩnh vực
- backend-api-design, machine-learning
Hướng nghiên cứu
Bắt đầu bằng cách xem xét tài liệu được liên kết về torch.compile và jax.jit, đồng thời so sánh các tham số decorator của chúng với abstraction array-api-extra được đề xuất ở đây. Xác định liệu việc biên dịch mặc định và các kwargs theo namespace có hữu ích hay không, sau đó ghi lại thiết kế API đã được thống nhất và hành vi no-op của nó đối với các namespace không được hỗ trợ như định nghĩa hoàn thành.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Has anybody investigated the possibility to allow for an array agnostic way to leverage the torch.compile and jax.jit decorators in array-api-extra?
This might be useful for array API consuming libraries such as SciPy or scikit-learn. For array API namespaces without JIT compiler support, xpx.compile would just result in a noop decorator. For torch and JAX it might, dispatching to an actual JIT compiler could unlock significant speed-ups and memory usage improvements.
However, the parameters of those decorators have many kwargs with seemingly very little overlap:
- https://docs.jax.dev/en/latest/_autosummary/jax.jit.html
- https://docs.pytorch.org/docs/stable/generated/torch.compile.html
Maybe xpx.compile could be made to accept arbitrary kwargs scoped by the underlying namespace name without attempting to map common compiler semantics together.
@xpx.compile(
torch=dict(options={"triton.cudagraphs": True}, fullgraph=True),
jax=dict(static_argnames=['n']),
)
def some_array_function(array, n):
...
I have little experience to tell whether calling those decorators with their default argument is useful or not in practice.
- Ngôn ngữ chính
- Python
- Star
- 33
- Fork
- 32
- Merge trung bình
- 5 giờ 58 phút
- Pull request đã merge (30 ngày)
- 47
Chuẩn bị môi trường
Chúng tôi chưa kiểm tra các tệp thiết lập môi trường của dự án này. Hãy bắt đầu từ README và xem hướng dẫn đóng góp lần đầu của chúng tôi để biết các bước chung.
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của data-apis/array-api-extra
-
ENH: new function `replace`Đang mởenhancement new function
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
data-apis/array-api-extra#992 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
testing
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 55/100
data-apis/array-api-extra#901 · 3 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
testing upstream issue
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 45/100
data-apis/array-api-extra#900 · 8 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
TST: non-default device testingĐang mởblocked testing xpx.testing
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 30/100
data-apis/array-api-extra#833 · 1 bình luận · 1 reaction ·
Maintainer thường phản hồi trong vòng 1 ngày
-
enhancement help wanted
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 55/100
data-apis/array-api-extra#811 · 1 bình luận · 1 reaction ·
Maintainer thường phản hồi trong vòng 1 ngày
Tất cả issue của data-apis/array-api-extra
Issue tương tự
-
Broken links found in docsĐang mởdocs pydanty:is-working
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
pydantic/pydantic-ai#8863 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 68/100
run-llama/llama_index#23278 ·
Maintainer thường phản hồi trong vòng 2 ngày
-
documentation from-review-extraction github-actions priority: low severity:nit
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 92/100
LearningCircuit/local-deep-research#6946 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
oracle/langchain-oracle#323 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 88/100
tenstorrent/tt-metal#58057 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày