Internal server error for role orders in LLM inference
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Aptitud para principiantes
- 35/100
Línea de trabajo
Comienza rastreando la validación que produce los errores citados sobre el orden de los roles y el último mensaje; después, reproduce una solicitud con mensajes de continuación o de observación del agente. El trabajo estará terminado cuando las secuencias de roles no alternantes compatibles ya no devuelvan HTTP 500 y el comportamiento de validación previsto siga estando cubierto.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Hi,
I am getting 500s with description
chat messages must alternate roles between 'user' and 'assistant'. Message may have a leading 'system' role message
and
"Internal Server Error\",\"status\":500,\"detail\":\"Last message role should be 'user'
I think this order validation is unnecessary. Most of the models (e.g. mixtrals, llama3, gemma etc) are perfectly fine with any order of roles. This claim can be validated on groq's playground: https://console.groq.com/playground
This issue currently breaks some existing patterns, like continuations (without the user explicitly saying "continue") or in some cases running agents with observations etc.
- Lenguaje dominante
- Jupyter Notebook
- Estrellas
- 4.2k
- Forks
- 1.1k
- Merge medio
- 10 h 15 min
- PR fusionados (30 d)
- 1
Guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de NVIDIA/GenerativeAIExamples
-
Dificultad 1/5 Menos de una hora Aptitud para principiantes 70/100
NVIDIA/GenerativeAIExamples#361 · 2 comentarios ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
NVIDIA/GenerativeAIExamples#299 ·
-
Dificultad 3/5 1-2 días Aptitud para principiantes 35/100
NVIDIA/GenerativeAIExamples#437 ·
-
hyperlink not working Abierto
Dificultad 1/5 Menos de una hora Aptitud para principiantes 45/100
NVIDIA/GenerativeAIExamples#400 ·
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 10/100
NVIDIA/GenerativeAIExamples#399 ·
Todos los issues de NVIDIA/GenerativeAIExamples
Issues similares
-
triage/confirmed
Dificultad 2/5 1-3 horas Aptitud para principiantes 88/100
agentscope-ai/agentscope#2775 ·
-
area/sessions comp/cron comp/gateway P2 sweeper:risk-message-delivery sweeper:risk-session-state type/bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
NousResearch/hermes-agent#118863 ·
-
automation missing-model model-sync provider:pioneer
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
anomalyco/models.dev#7701 ·
-
external-plugin ready-for-review
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
github/awesome-copilot#3586 · 2 comentarios ·
-
bug-unconfirmed
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100