MEAI: OpenAI - Expose 'cache_write_tokens'
Los mantenedores suelen responder en 1 día
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 3/5
- Tiempo estimado
- 1-2 días
- Aptitud para principiantes
- 68/100
Línea de trabajo
Comienza localizando las MEAI OpenAI usage mappings para Chat Completions y la Responses API; el issue no indica ninguna ruta de archivo o de prueba. Compara las estructuras de respuesta documentadas y determina dónde se representa cache_write_tokens para cada API. Se considera terminado cuando la propiedad está expuesta para el endpoint de OpenAI, mientras que el comportamiento de Azure OpenAI permanece sin cambios.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
In OpenAI 5.6 models or later, OpenAI have introduced cache_write_tokens that indicate how many tokens was billed at 1.25x
In a raw call to OpenAI API it looks like this:
Chat Completion Response:
usage": {
"prompt_tokens": 9657,
"completion_tokens": 78,
"total_tokens": 9735,
"prompt_tokens_details": {
"cached_tokens": 0,
"cache_write_tokens": 9654, <--- New Property in 5.6 models
"audio_tokens": 0
},
"completion_tokens_details": {
"reasoning_tokens": 37,
"audio_tokens": 0,
"accepted_prediction_tokens": 0,
"rejected_prediction_tokens": 0
}
}
Responses API Response
"usage": {
"input_tokens": 9658,
"input_tokens_details": {
"cache_write_tokens": 9655, <--- New Property in 5.6 models
"cached_tokens": 0
},
"output_tokens": 42,
"output_tokens_details": {
"reasoning_tokens": 25
},
"total_tokens": 9700
},
It could be nice if MEAI for OpenAI could expose this new property
Note: Only OpenAI's own API Endpoint have exposed this yet... Azure OpenAI are yet to expose the property.
- Lenguaje dominante
- C#
- Estrellas
- 3.2k
- Forks
- 895
- Merge medio
- 2 d 12 h
- PR fusionados (30 d)
- 24
Preparar el entorno
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de dotnet/extensions
-
area-ai untriaged
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
dotnet/extensions#7783 · 1 reacción ·
Los mantenedores suelen responder en 1 día
-
area-telemetry untriaged
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
dotnet/extensions#7757 ·
Los mantenedores suelen responder en 1 día
-
untriaged
Dificultad 2/5 1-3 horas Aptitud para principiantes 86/100
dotnet/extensions#7714 · 1 reacción ·
Los mantenedores suelen responder en 1 día
-
area-ai enhancement
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
dotnet/extensions#7626 · 4 comentarios ·
Los mantenedores suelen responder en 1 día
-
bug untriaged
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
dotnet/extensions#7618 · 1 comentario ·
Los mantenedores suelen responder en 1 día
Todos los issues de dotnet/extensions
Issues similares
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 88/100
microsoft/onnxruntime-genai#2633 ·
Los mantenedores suelen responder en 1 día
-
python triage
Dificultad 2/5 1-3 horas Aptitud para principiantes 85/100
microsoft/semantic-kernel#14491 ·
Los mantenedores suelen responder en 2 días
-
area:jobads-cv FE mvp P3
Dificultad 2/5 1-3 horas Aptitud para principiantes 88/100
klasolsson81/jobbliggaren#1878 ·
Los mantenedores suelen responder en 1 día
-
bug help wanted
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
pnp/pnpcore#1878 · 1 comentario ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
SubtitleEdit/subtitleedit#15331 · 2 comentarios ·
Los mantenedores suelen responder en 1 día