ScatterMoE feature

Đang mở
  • Có gì không ổn?
#104 5 bình luận 0 reaction 0 người được giao Xem trên GitHub

Chưa có ai nhận issue này.

Đánh giá

Độ khó
5/5
Thời gian dự kiến
Hơn một tuần
Mức phù hợp với người mới
25/100
Loại issue
Tính năng
Độ rõ ràng
Cần làm rõ
Mức độ hoạt động
Đình trệ
Công nghệ
python
Lĩnh vực
machine-learning

Hướng nghiên cứu

Đọc bài báo ScatterMoE được liên kết và phần triển khai tham chiếu tại github.com/shawntan/scattermoe, sau đó so sánh các yêu cầu của chúng với Megablocks. Trước khi bắt đầu triển khai, hãy làm rõ phạm vi dự kiến, điểm tích hợp, hành vi mong đợi và các tiêu chí chấp nhận; issue hiện chưa xác định các tệp, bài kiểm thử hoặc điều gì sẽ được xem là hoàn tất.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

I would like to request ScatterMoE feature in Megablocks

https://arxiv.org/abs/2403.08245

https://github.com/shawntan/scattermoe

Ngôn ngữ chính
Python
Star
1.6k
Fork
227
Không có pull request nào được merge trong 30 ngày

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue tương tự

Thêm issue về Python

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.