Missing prefix cache hit rate in Azure LLM inference trace 2023 and 2024.
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 3/5
- Thời gian dự kiến
- 1-2 ngày
- Mức phù hợp với người mới
- 50/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Khá rõ ràng
- Mức độ hoạt động
- Ít trao đổi
- Công nghệ
- azure
- Lĩnh vực
- data
Hướng nghiên cứu
Bắt đầu bằng cách xác định các trace suy luận Azure LLM của năm 2023 và 2024, đồng thời kiểm tra cách lưu trữ độ dài đầu vào và đầu ra của chúng. Thêm tỷ lệ cache prefix hit tương ứng vào cả hai trace, sau đó xác minh rằng các bản ghi đã cập nhật cung cấp trường cần thiết để đánh giá hiệu suất suy luận và các điều kiện tải.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
In these two traces, there are only input and output lengths, but no prefix cache hit rate. Therefore, the data tested using these traces cannot truly reflect the inference performance and load conditions. Could you please supplement these traces with their corresponding prefix cache hit rates?
- Ngôn ngữ chính
- Jupyter Notebook
- Star
- 1.2k
- Fork
- 187
- Merge trung bình
- 1 giờ 28 phút
- Pull request đã merge (30 ngày)
- 2
Chuẩn bị môi trường
Dự án này không cung cấp dev container, Dockerfile hay hướng dẫn đóng góp, nên bạn cần tự thiết lập môi trường: hãy bắt đầu từ README và xem hướng dẫn đóng góp lần đầu của chúng tôi để biết các bước chung.
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của Azure/AzurePublicDataset
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 35/100
Azure/AzurePublicDataset#55 ·
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 35/100
Azure/AzurePublicDataset#54 ·
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100
Azure/AzurePublicDataset#50 ·
-
Can we rename file path to avoid error on Windows (which does not support colon in file paths)?Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 48/100
Azure/AzurePublicDataset#47 · 3 bình luận ·
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100
Azure/AzurePublicDataset#46 ·
Tất cả issue của Azure/AzurePublicDataset
Issue tương tự
-
automation missing-model model-sync provider:tinfoil
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 68/100
anomalyco/models.dev#12053 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
`_small_angle_of_2_vectors` loses accuracy for nearly parallel vectors (naive difference of products in Kahan's formula)Có thể đã có người làm @hongyuchen1030 đã nhận hôm nay. Đang mởbug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
Maintainer thường phản hồi trong vòng 3 ngày
-
kind/bug kind/security
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
spiceai/spiceai#15826 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 68/100
-
approved correction metadata
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 65/100
acl-org/acl-anthology#10687 · 2 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày