microsoft/batch-inference
Xem trên GitHubDynamic batching library for Deep Learning inference. Tutorials for LLM, GPT scenarios.
- Star
- 106
- Fork
- 6
- Issue cho người mới đang mở
- 0
- Issue đã lập chỉ mục
- 1
- Merge trung bình
- 12 giờ 12 phút
- Pull request đã merge (30 ngày)
- 1
- Ngôn ngữ chính
- Python
- Giấy phép
- MIT
- Lần push lên GitHub gần nhất
- 24/8/2026
- Lập chỉ mục gần nhất
- 19/9/2026
- Hướng dẫn đóng góp
- Không có hướng dẫn đóng góp
- Quy tắc ứng xử
- Quy tắc ứng xử
- Label cho người mới
- Chưa lập chỉ mục label nào cho người mới
Đã lập chỉ mục 1 issue đang mở
Đang tải issue
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 15/100
microsoft/batch-inference#14 ·