What is the hardware requirement for fine tuning codegen 2B and higher models?

Đang mở

#67 mở ngày 16/6/2023 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Chưa có ai nhận issue này.

Đánh giá

Độ khó: 3/5
Thời gian dự kiến: 1-2 ngày
Mức phù hợp với người mới: 20/100

Loại issue: Tài liệu
Độ rõ ràng: Cần làm rõ
Mức độ hoạt động: Đình trệ
Công nghệ: python
Lĩnh vực: machine-learning

Hướng nghiên cứu

No files, tests, or entry points are mentioned. First identify where fine-tuning and hardware requirements are documented, then verify the requirements for 2B and larger models and document guidance that addresses the reported memory error.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

I have tried to finetune 2B on 40GB GPU which i faced memory out of error. Any suggestion to finetune 2B and above models?

Ngôn ngữ chính: Python
Star: 5.2k
Fork: 420
Chỉ số merge pull request: Không có pull request nào được merge trong 30 ngày

Hướng dẫn đóng góp

Mở hướng dẫn đóng góp

Bắt đầu từ đâu

Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
Fork repository và làm thay đổi trên một nhánh.
Mở pull request có tham chiếu số hiệu của issue.

Issue khác của salesforce/CodeGen

Verify evals on Papers with Code Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 45/100

salesforce/CodeGen#107 · Mở ngày 14/9/2026
Which repetitive Salesforce tasks consume the most time for your team? Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 20/100

salesforce/CodeGen#104 · Mở ngày 8/7/2026
📝 Integration Proposal: CAJAL — Scientific Paper Agent for CodeGen Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

salesforce/CodeGen#101 · Mở ngày 4/5/2026
Remove appendix with license text placeholders Đang mở

Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 48/100

salesforce/CodeGen#95 · Mở ngày 18/11/2024
[BUG] CodeGen 2.5 Tokenizer cannot be initialized anymore Đang mở

Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 35/100

salesforce/CodeGen#94 · 8 bình luận · Mở ngày 16/11/2024

Tất cả issue của salesforce/CodeGen

Issue tương tự

docs: update workflows.md for slide deck Node test discovery Đang mở

agent-ready documentation needs-triage

Độ khó 1/5 1-3 giờ Mức phù hợp với người mới 88/100

microsoft/hve-core#3012 · Mở ngày 25/9/2026
config_keys.rst says every result file PyBNF writes is alphabetical, but the credible-interval files and start_point.txt use declaration order Đang mở

documentation

Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 91/100

lanl/PyBNF#932 · Mở ngày 25/9/2026
workflow-status page template still says reusable workflows are "triggered only by workflow_call:" Đang mở

Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 92/100

LearningCircuit/local-deep-research#6804 · Mở ngày 24/9/2026
Add https://search.jeremyh.xyz/ Đang mở

instance instance add

Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 72/100

searxng/searx-instances#939 · 1 bình luận · Mở ngày 24/9/2026
Azure Sandboxes: Small and ExtraSmall tiers always fail to deploy (disk request exceeds tier maximum) Đang mở

area-deployment area-integrations triage:bot-seen

Độ khó 2/5 Nửa ngày Mức phù hợp với người mới 86/100

microsoft/aspire#20459 · 1 bình luận · Mở ngày 24/9/2026

Thêm issue về Python