Java: Add rate limit metadata values to OpenAIStreamingChatMessageContent and OpenAIChatMessageContent
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 3/5
- Tempo stimato
- 1-2 giorni
- Idoneità per principianti
- 45/100
Direzione di ricerca
Individua OpenAIStreamingChatMessageContent e OpenAIChatMessageContent, quindi traccia il modo in cui i relativi dizionari Metadata vengono popolati dalle risposte di completamento chat di Azure OpenAI. Aggiungi i valori x-rate-limit-remaining-requests e x-ratelimit-remaining-tokens a entrambi i dizionari Metadata e verifica che le risposte streaming e non-streaming li espongano.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Raw Azure OpenAi chat completion response contains additional headers, which contain information about rate limits:
x-rate-limit-remaining-requests and x-ratelimit-remaining-tokens. Would it be possible to add these values to the Metadata dictionary in both OpenAIStreamingChatMessageContent and OpenAIChatMessageContent class? I find rate limit information useful, but in current .Net implementation there is no way to access it.
See microsoft/semantic-kernel#8421 for the .NET version of this issue.
- Lingua principale
- Java
- Stelle
- 276
- Fork
- 56
- Merge medio
- 17h 45m
- PR unite (30g)
- 4
Guida per i contributori
Apri la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di microsoft/semantic-kernel-java
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 20/100
microsoft/semantic-kernel-java#334 · 1 commento ·
-
Feature Parity Inquiry: Multi-Agent Orchestration and Roadmap Alignment with Python/.NET Versions Aperta
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
microsoft/semantic-kernel-java#331 · 7 commenti ·
-
bug triage
microsoft/semantic-kernel-java#330 · 3 commenti · 1 assegnatario ·
-
bug triage
Difficoltà 5/5 Più di una settimana Idoneità per principianti 20/100
microsoft/semantic-kernel-java#328 · 1 commento ·
-
Java: Remove SK planners Aperta
microsoft/semantic-kernel-java#323 · 1 reazione · 2 assegnatari ·
Tutte le issue di microsoft/semantic-kernel-java
Issue simili
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
elastic/gradle-plugins#157 ·
-
enhancement Tools
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 75/100
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 70/100
apache/rocketmq-dashboard#5008 ·
-
bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
-
DETECT_PARAMETER_NAMES=false silently disables @ConstructorProperties-based Creator detection too Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 70/100
FasterXML/jackson-databind#6229 ·