mistralai: expose reasoning_effort on the LLM
Los mantenedores suelen responder en 1 día
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 2/5
- Tiempo estimado
- 1-3 horas
- Aptitud para principiantes
- 66/100
Línea de trabajo
Empieza leyendo la implementación de mistralai.LLM del plugin de Mistral y el código que construye completion_args; después, comprueba los valores admitidos por el tipo CompletionArgs del SDK. Añade un argumento de palabra clave con un valor predeterminado que conserve el comportamiento actual y pásalo a completion_args; la tarea se considera terminada cuando los llamadores puedan establecer el nivel de razonamiento admitido y las llamadas existentes conserven su comportamiento. El issue se ofrece a proporcionar pruebas, pero no indica ningún archivo de pruebas.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Feature Type
Would make my life easier
Feature Description
mistralai.LLM sends no reasoning_effort, and there is no way to set it. The plugin uses the Conversations API which accepts reasoning_effort inside completion_args, but the plugin only builds completion_args from max_tokens, temperature, top_p, presence_penalty, frequency_penalty, random_seed and tool_choice.
Two consequences:
- Reasoning can't be tuned for voice. Mistral's docs list
mistral-small-2603,mistral-medium-3-5andmistral-large-4-0as supportingreasoning_effort(all three are inChatModels), and describe reasoning as using "extra compute time to generate more tokens". The OpenAI plugin exposesreasoning_effortand defaults reasoning models to"none"or"minimal"; Mistral has no equivalent. - The recommended replacement isn't reachable. Mistral deprecated
magistral-small-latestandmagistral-medium-latestand recommendsreasoning_effortonmistral-small-latestormistral-medium-3-5instead.
One constraint: in the released mistralai SDK (3.5.0, the plugin's floor, through 3.6.0), CompletionArgs.reasoning_effort is typed as Literal["none", "high"], so only those two values can be sent today, even though the docs list low/medium/high for mistral-large-4-0.
Proposal
A single keyword argument on mistralai.LLM with a default that keeps today's behaviour
Workarounds / Alternatives
extra_kwargsonchat(): needs a customllm_nodeand gets overwritten whentemperatureor other option is set- Magistral models: deprecated by Mistral.
- Patching the plugin: has to be redone on every upgrade.
Additional Context
- Docs: https://docs.mistral.ai/studio/conversations/reasoning
- Happy to open a PR with tests.
- Lenguaje dominante
- Python
- Estrellas
- 14.6k
- Forks
- 3.9k
- Merge medio
- 2 d 6 h
- PR fusionados (30 d)
- 227
Preparar el entorno
Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de livekit/agents
-
Dificultad 1/5 Menos de una hora Aptitud para principiantes 78/100
Los mantenedores suelen responder en 1 día
-
ci: unit tests pin Python 3.12 while the package advertises 3.14 supportPosiblemente ocupada @huong8373tt-beep la tomó hace 1 día. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 74/100
livekit/agents#8231 · 3 comentarios ·
Los mantenedores suelen responder en 1 día
-
Assistant markup is stripped from chat history when expressive mode is offPosiblemente ocupada @ShivamSharma43 la tomó hace 22 días. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
livekit/agents#7647 · 1 comentario ·
Los mantenedores suelen responder en 1 día
-
docs: openai.LLM vs openai.responses.LLM for HTTP OpenAI-compat hostsQuizá libre de nuevo @AbarnaaSree la tomó hace 62 días y no hay ningún pull request abierto. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
livekit/agents#7022 · 1 comentario ·
Los mantenedores suelen responder en 1 día
-
IGNORE_ON_ENTER tools (e.g. end_call) stay hidden for the whole call after on_enter awaits an AgentTaskPosiblemente ocupada @BhaskarKapri07 la tomó hoy. Abierto
Dificultad 4/5 3-5 días Aptitud para principiantes 25/100
Los mantenedores suelen responder en 1 día
Todos los issues de livekit/agents
Issues similares
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 79/100
aws-samples/sample-per-model-bedrock#639 ·
Los mantenedores suelen responder en 1 día
-
bug
Dificultad 1/5 Menos de una hora Aptitud para principiantes 86/100
awslabs/visual-asset-management-system#937 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 62/100
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 79/100
project-codeflare/codeflare-sdk#1195 ·
Los mantenedores suelen responder en 1 día
-
Bump numpy dependencyAbierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 65/100
pandas-dev/pandas-stubs#2051 ·
Los mantenedores suelen responder en 1 día