请问有没有 GPT2-ML 预训练模型，希望结合 DTR 进行微调

Đang mở

#100 mở ngày 22/6/2021 4 bình luận 0 reaction 0 người được giao Xem trên GitHub

Chưa có ai nhận issue này.

Đánh giá

Độ khó: 5/5
Thời gian dự kiến: Hơn một tuần
Mức phù hợp với người mới: 25/100

Loại issue: Tính năng
Độ rõ ràng: Cần làm rõ
Mức độ hoạt động: Đình trệ
Công nghệ: python
Lĩnh vực: ai, machine-learning

Hướng nghiên cứu

Bắt đầu bằng cách xem xét dự án GPT2-ML được liên kết trong issue và tài liệu hoặc các ví dụ về MegEngine DTR. Được xem là hoàn thành khi cung cấp một triển khai GPT2-ML bằng MegEngine cùng với một hướng dẫn tham khảo để fine-tuning nó bằng DTR trong các giới hạn phần cứng đã nêu.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

question

请求

实现MegEngine实现GPT2-ML(https://github.com/imcaspar/gpt2-ml)

任务描述

实验项目微调GPT2-ML，由于GPU资源不足（RTX 3060-12GB）无法调试，通过【机器之心】得知MegEngine1.4 DTR技术解决了动态图显存优化的问题，想请问有没有参考教程让我们能通过DTR实现对GPT2-ML的微调

目标

采用MegEngine实现的GPT2-ML模型，通过DTR进行微调

Ngôn ngữ chính: Python
Star: 306
Fork: 96
Chỉ số merge pull request: Không có pull request nào được merge trong 30 ngày

Hướng dẫn đóng góp

Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này

Bắt đầu từ đâu

Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
Fork repository và làm thay đổi trên một nhánh.
Mở pull request có tham chiếu số hiệu của issue.

Issue khác của MegEngine/Models

大佬求帮助，在训练atss检测的时候，按照官方dump成mge出错，.tm模型不能可视化 Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

MegEngine/Models#126 · 2 bình luận · Mở ngày 24/8/2023
大佬求帮助，我在训练语义分割的时候，自定义了模型的数据输入，然后训练时偶发性报错'mgb::CudaError' Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

MegEngine/Models#125 · 1 bình luận · Mở ngày 22/12/2022
训练segmentation的时候出现nan Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 20/100

MegEngine/Models#120 · 1 bình luận · Mở ngày 7/8/2022
resnet分类模型无法指定分类数量 Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

MegEngine/Models#115 · Mở ngày 17/11/2021
COCO数据集测试速度异常 Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 38/100

MegEngine/Models#105 · 2 bình luận · Mở ngày 16/7/2021

Tất cả issue của MegEngine/Models

Issue tương tự

slack-gif-creator: validate_gif() multiplies the last frame's duration by the frame count, so reported duration/fps are wrong (1.0s GIF reported as 1.8s) Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100

anthropics/skills#1811 · 1 bình luận · Mở ngày 23/9/2026
App fails to start with gradio 6 (allowed by `gradio>=5.49.1`) Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100

speaches-ai/speaches#678 · Mở ngày 23/9/2026
ModuleNotFoundError: No module named 'mcp.server.fastmcp'. Đang mở

bug

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100

datalayer/mcp-compose#42 · Mở ngày 23/9/2026
import spacy fails with ModuleNotFoundError: No module named 'click' Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100

conda-forge/spacy-feedstock#177 · Mở ngày 23/9/2026
humaneval: extract_function_body corrupts a fenced body-only reply, so the same correct code scores INCORRECT fenced and CORRECT unfenced Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 70/100

UKGovernmentBEIS/inspect_evals#2523 · Mở ngày 23/9/2026

Thêm issue về Python