Feature request: add max_len=8192 parameter support 功能请求：增加对max_len=8192的支持
メンテナーはふだん 1 日以内に返信
まだ誰も着手していません。
評価
- 難易度
- 2/5
- 見積もり時間
- 1〜3時間
- 初心者へのやさしさ
- 82/100
調査の方向性
backend/server/main.py の参照されている行から始めて、InferenceRequest の定義を調べます。リクエストが laya-multilingual の推論呼び出しに到達するまでを追跡し、次に max_len=8192 のサポートを追加して、長いコンテキストのリクエストがこのパラメータを受け入れ、増加したトークン制限を使用することを検証します。
索引モデルが issue の本文から書いたものです。
説明
Current API don't support max_len=8192 parameter, which can increase the max token limit for laya-multilingual.
For some long context case, the quality of result is quite low. It would be much more helpful if you can add the support of this.
I suppose just add a property in InferenceRequest and add the support here
现在的API不支持 max_len=8192 这个可以让 laya-multilingual 的输入上限增加到8192个token。
现在过长的上下文的结果，质量很低。如果能支持这个参数，估计会有很大改善。
我觉得，只要在 InferenceRequest 里面加一个对此支持的属性，然后再在这个函数调用里加上参数就好了。
非常感谢你做了这个可以直接在Docker里用的image，直接部署非常方便！
- 主要言語
- TypeScript
- スター
- 72
- フォーク
- 48
- 平均マージ
- 14分
- マージ済み PR（30日）
- 55
環境構築
- Dockerfile または Docker Compose ファイルあり
- プルリクエストのテンプレートなし
- コントリビューションガイドなし
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
1Panel-dev/laya-server のほかの issue
-
建议加SKILL指导Agent使用オープン
難易度 5/5 1週間以上 初心者へのやさしさ 20/100
1Panel-dev/laya-server#60 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
1Panel-dev/laya-server の issue をすべて見る
似ている issue
-
Mend: dependency security vulnerability untriaged
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
opensearch-project/security-dashboards-plugin#2545 ·
メンテナーはふだん 1 日以内に返信
-
Add: Dream TR SDオープンcheck:passed streams:add
難易度 2/5 1〜3時間 初心者へのやさしさ 70/100
メンテナーはふだん 1 日以内に返信
-
doctor integrity sample scans soft-deleted pages on Postgres (batch path has no deleted_at filter)オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 88/100
メンテナーはふだん 1 日以内に返信
-
難易度 1/5 1時間未満 初心者へのやさしさ 72/100
SocialGouv/egapro#4672 · コメント 1 件 ·
メンテナーはふだん 2 日以内に返信
-
area:agents area:tui bug
難易度 2/5 1〜3時間 初心者へのやさしさ 74/100
anthropics/claude-code#98358 ·
メンテナーはふだん 1 日以内に返信