presence_penalty and repetition_penalty in completions endpoint

説明

コントリビューターガイド

技術スタック

pythonrest api

領域

backendapi

Issue 種別

feature

難度新しい貢献者にとっての実装難度です。1 は非常に小さな変更、5 は専門的な作業です。

3

推定時間経験ある貢献者が調査、実装、テスト、pull request 準備にかけるおおよその時間範囲です。

1-3 hours

活動状況Issue が今どれだけ取り組みやすいかを示します。新しい、活発、古い、ブロック中、またはメンテナー入力待ちなどです。

fresh

明確さ期待される変更、受け入れ条件、次の手順がどれだけ明確かを示します。

clear

前提条件

Familiarity with FastChat codebaseUnderstanding of OpenAI API parameters

初心者向け度初回貢献者にどれだけ取り組みやすいかを 1-100 で推定したスコアです。

60

調査方針

Start by examining the current implementation of the completions endpoint in FastChat. Look for how existing parameters like temperature are parsed and passed to the underlying model. The `presence penalty` and `repetition penalty` are standard OpenAI API parameters that control output diversity. Check if the OpenAI wrapper used in FastChat already supports these parameters or if they need to be added. Examine the relevant files in the `fastchat/serve` directory, particularly the model worker and controller. Ensure that the new parameters are added to the request schema and passed through to the model call. The issue has only one comment from a maintainer (if any), so no additional clarification is needed, but it may be worth asking if the parameters should be implemented at the API level or if they are already available but undocumented.