Question of eos token in codegen2-7B model

Đang mở

#10 mở ngày 27/6/2023 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Chưa có ai nhận issue này.

Đánh giá

Độ khó: 3/5
Thời gian dự kiến: 1-2 ngày
Mức phù hợp với người mới: 30/100

Loại issue: Lỗi
Độ rõ ràng: Cần làm rõ
Mức độ hoạt động: Đình trệ
Công nghệ: python
Lĩnh vực: machine-learning

Hướng nghiên cứu

Start with config.json for the codegen2-7B model and compare its eos token setting with the CodeGen model configuration. Trace how the setting is used by the model or tokenizer, then determine whether the difference is intentional and document or correct the configuration accordingly.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

Hi, I found it is wield that the eos token in config.json of codegen2-7B model is set to 2, but in codegen I think it was 50256, is it for any special purpose?

Ngôn ngữ chính: Python
Star: 268
Fork: 11
Chỉ số merge pull request: Không có pull request nào được merge trong 30 ngày

Hướng dẫn đóng góp

Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này

Bắt đầu từ đâu

Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
Fork repository và làm thay đổi trên một nhánh.
Mở pull request có tham chiếu số hiệu của issue.

Issue khác của salesforce/CodeGen2

Question of unk, bos, and eos tokens. Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

salesforce/CodeGen2#11 · Mở ngày 20/7/2023
Will the training implementation of CodeGen 2 be released? Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 15/100

salesforce/CodeGen2#9 · Mở ngày 15/6/2023
Is CodeGen2-16B the final and complete version? Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 15/100

salesforce/CodeGen2#7 · Mở ngày 12/5/2023
How is it compared with the StarCoder Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 20/100

salesforce/CodeGen2#6 · 1 reaction · Mở ngày 9/5/2023
How many tokens were used for training? Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 35/100

salesforce/CodeGen2#4 · 1 reaction · Mở ngày 4/5/2023

Tất cả issue của salesforce/CodeGen2

Issue tương tự

validate-structure inspecte challenge/work/.terraform et rend faux les labs qui ont un provider en cache Đang mở

bug

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100

stephrobert/dsoxlab#238 · Mở ngày 24/9/2026
Uniform probability densities use the upper bound as an interval width Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100

nasa/fmdtools#40 · Mở ngày 24/9/2026
_common_folder() treats a single file as the common folder; single-file archives can't be installed (4.2.8) / crash (master) Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100

sublimehq/package_control#1780 · Mở ngày 24/9/2026
Set 'Sample' input in 'autorun.py' to utilize 'Sample' Tab in eLog Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100

pcdshub/mfx#309 · 2 bình luận · Mở ngày 24/9/2026
niri config file addition does not respect existing optional include Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 70/100

nwg-piotr/nwg-displays#145 · Mở ngày 24/9/2026

Thêm issue về Python