mistralai: expose reasoning_effort on the LLM
メンテナーはふだん 1 日以内に返信
評価
- 難易度
- 2/5
- 見積もり時間
- 1〜3時間
- 初心者へのやさしさ
- 66/100
調査の方向性
まず、Mistralプラグインの mistralai.LLM の実装と completion_args を構築するコードを読み、次にSDKの CompletionArgs 型でサポートされている値を確認してください。現在の動作を維持するデフォルト値を持つキーワード引数を追加し、それを completion_args に渡してください。呼び出し側がサポートされている推論の強度を設定でき、既存の呼び出しが従来の動作を維持すれば完了です。issueではテストの提供を申し出ていますが、テストファイルは指定していません。
索引モデルが issue の本文から書いたものです。
説明
Feature Type
Would make my life easier
Feature Description
mistralai.LLM sends no reasoning_effort, and there is no way to set it. The plugin uses the Conversations API which accepts reasoning_effort inside completion_args, but the plugin only builds completion_args from max_tokens, temperature, top_p, presence_penalty, frequency_penalty, random_seed and tool_choice.
Two consequences:
- Reasoning can't be tuned for voice. Mistral's docs list
mistral-small-2603,mistral-medium-3-5andmistral-large-4-0as supportingreasoning_effort(all three are inChatModels), and describe reasoning as using "extra compute time to generate more tokens". The OpenAI plugin exposesreasoning_effortand defaults reasoning models to"none"or"minimal"; Mistral has no equivalent. - The recommended replacement isn't reachable. Mistral deprecated
magistral-small-latestandmagistral-medium-latestand recommendsreasoning_effortonmistral-small-latestormistral-medium-3-5instead.
One constraint: in the released mistralai SDK (3.5.0, the plugin's floor, through 3.6.0), CompletionArgs.reasoning_effort is typed as Literal["none", "high"], so only those two values can be sent today, even though the docs list low/medium/high for mistral-large-4-0.
Proposal
A single keyword argument on mistralai.LLM with a default that keeps today's behaviour
Workarounds / Alternatives
extra_kwargsonchat(): needs a customllm_nodeand gets overwritten whentemperatureor other option is set- Magistral models: deprecated by Mistral.
- Patching the plugin: has to be redone on every upgrade.
Additional Context
- Docs: https://docs.mistral.ai/studio/conversations/reasoning
- Happy to open a PR with tests.
- 主要言語
- Python
- スター
- 14.6k
- フォーク
- 3.9k
- 平均マージ
- 2日 6時間
- マージ済み PR(30日)
- 227
環境構築
このプロジェクトには開発コンテナ、Dockerfile、コントリビューションガイドがありません。まず README を読み、一般的な手順ははじめてのコントリビューションガイドを参照してください。
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
livekit/agents のほかの issue
-
難易度 1/5 1時間未満 初心者へのやさしさ 78/100
メンテナーはふだん 1 日以内に返信
-
ci: unit tests pin Python 3.12 while the package advertises 3.14 support対応中かも @huong8373tt-beep が 1 日前に担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 74/100
livekit/agents#8231 · コメント 3 件 ·
メンテナーはふだん 1 日以内に返信
-
Assistant markup is stripped from chat history when expressive mode is off対応中かも @ShivamSharma43 が 22 日前に担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
livekit/agents#7647 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
docs: openai.LLM vs openai.responses.LLM for HTTP OpenAI-compat hosts再び着手できるかも @AbarnaaSree が 62 日前に担当しましたが、オープン中のプルリクエストはありません。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
livekit/agents#7022 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
IGNORE_ON_ENTER tools (e.g. end_call) stay hidden for the whole call after on_enter awaits an AgentTask対応中かも @BhaskarKapri07 が今日担当しました。 オープン
難易度 4/5 3〜5日 初心者へのやさしさ 25/100
メンテナーはふだん 1 日以内に返信
似ている issue
-
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
vllm-project/vllm#64845 ·
メンテナーはふだん 1 日以内に返信
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 84/100
dekobon/big-code-analysis#1729 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 70/100
pydantic/pydantic-ai#12091 ·
メンテナーはふだん 1 日以内に返信
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 88/100
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100