Add other common params to ChatCompletionInferenceParams
维护者通常 1 天内回复
还没有人认领这个 Issue。
评估
调研方向
定位 ChatCompletionInferenceParams 的定义和处理方式，然后比较 top_p 和 temperature 的表示方式及其传递方式。添加对 top_k、min_p、presence_penalty 和 repetition_penalty 的支持，并验证调用方不再需要通过 extra_body 传递这些值。
由索引模型根据 Issue 内容生成。
描述
Priority Level
Medium (Nice to have)
Is your feature request related to a problem? Please describe.
We currently only support top_p and temperature
Describe the solution you'd like
support others:
top_k, min_p, presence_penalty, repetition_penalty
Describe alternatives you've considered
Currently there's a workaround to pass these via extra_body
Additional context
No response
- 主要语言
- Python
- 星标
- 2.3k
- 派生
- 215
- 平均合并
- 3 天 15 小时
- 30 天内合并 PR
- 41
环境准备
- 没有 Dockerfile 或 Docker Compose 文件
- 有 Pull Request 模板
- 阅读贡献指南
从这里开始
- 先读完整个 Issue，再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库，在一个分支上完成修改。
- 提交 Pull Request，并在描述里引用这个 Issue 编号。
NVIDIA-NeMo/DataDesigner 的其他 Issue
-
task
难度 2/5 1-3 小时 新手友好度 82/100
NVIDIA-NeMo/DataDesigner#760 ·
维护者通常 1 天内回复
-
bug
难度 3/5 1-2 天 新手友好度 78/100
NVIDIA-NeMo/DataDesigner#971 ·
维护者通常 1 天内回复
-
Run Slurm generation without a client image using a versioned vLLM serving image可能已有人在做 @nabinchha 于 1 天前认领。 未关闭task triaged
NVIDIA-NeMo/DataDesigner#969 · 已指派 1 人 ·
维护者通常 1 天内回复
-
Harden Slurm inference routing, backpressure, and failover可能已有人在做 @nabinchha 于 2 天前认领。 未关闭task
NVIDIA-NeMo/DataDesigner#966 · 已指派 1 人 ·
维护者通常 1 天内回复
-
enhancement triaged
难度 4/5 3-5 天 新手友好度 40/100
NVIDIA-NeMo/DataDesigner#956 ·
维护者通常 1 天内回复
查看 NVIDIA-NeMo/DataDesigner 的全部 Issue
相似的 Issue
-
难度 2/5 1-3 小时 新手友好度 88/100
BasedHardware/omi#20271 ·
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 92/100
openai/openai-cookbook#3153 ·
维护者通常 1 天内回复
-
cvss-severity:high devguard l3montree-cybersecurity/devguard/devguard pkg:golang/github.com/l3montree-dev/devguard risk:low state:open
难度 2/5 1-3 小时 新手友好度 65/100
l3montree-dev/devguard#3146 · 1 条评论 ·
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 76/100
-
bug confirmed issue
难度 2/5 1-3 小时 新手友好度 76/100
open-webui/open-webui#31849 · 2 条评论 ·
维护者通常 1 天内回复