Add other common params to ChatCompletionInferenceParams
Maintainer thường phản hồi trong vòng 1 ngày
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 2/5
- Thời gian dự kiến
- 1-3 giờ
- Mức phù hợp với người mới
- 58/100
Hướng nghiên cứu
Tìm định nghĩa và cách xử lý ChatCompletionInferenceParams, sau đó so sánh cách top_p và temperature được biểu diễn và chuyển tiếp. Thêm hỗ trợ cho top_k, min_p, presence_penalty và repetition_penalty cùng với chúng, đồng thời xác minh rằng các bên gọi không còn cần truyền các giá trị này qua extra_body.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Priority Level
Medium (Nice to have)
Is your feature request related to a problem? Please describe.
We currently only support top_p and temperature
Describe the solution you'd like
support others:
top_k, min_p, presence_penalty, repetition_penalty
Describe alternatives you've considered
Currently there's a workaround to pass these via extra_body
Additional context
No response
- Ngôn ngữ chính
- Python
- Star
- 2.3k
- Fork
- 211
- Merge trung bình
- 3 ngày 12 giờ
- Pull request đã merge (30 ngày)
- 45
Chuẩn bị môi trường
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của NVIDIA-NeMo/DataDesigner
-
task
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
NVIDIA-NeMo/DataDesigner#760 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Harden Slurm inference routing, backpressure, and failoverCó thể đã có người làm @nabinchha đã nhận 1 ngày trước. Đang mởtask
NVIDIA-NeMo/DataDesigner#966 · 1 người được giao ·
Maintainer thường phản hồi trong vòng 1 ngày
-
enhancement triaged
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 40/100
NVIDIA-NeMo/DataDesigner#956 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
task
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 42/100
NVIDIA-NeMo/DataDesigner#947 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
bug
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 52/100
NVIDIA-NeMo/DataDesigner#946 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
Tất cả issue của NVIDIA-NeMo/DataDesigner
Issue tương tự
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 72/100
letsencrypt/cp-cps#353 ·
-
Marble Madness II is missingĐang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 68/100
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 84/100
PedestrianDynamics/pyFDS-Evac#394 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
DOI-USGS/pywatershed#421 ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
python-pillow/Pillow#10087 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày