Java: Add rate limit metadata values to OpenAIStreamingChatMessageContent and OpenAIChatMessageContent

Offen

#203 erstellt am 03.9.2024 0 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen

Dieses Issue hat noch niemand übernommen.

Bewertung

Schwierigkeit: 3/5
Geschätzter Aufwand: 1-2 Tage
Anfängerfreundlichkeit: 45/100

Issue-Typ: Feature
Klarheit: Größtenteils klar
Aktivitätsstatus: Veraltet
Tech-Stack: java
Bereich: api

Rechercherichtung

Lokalisieren Sie OpenAIStreamingChatMessageContent und OpenAIChatMessageContent und verfolgen Sie anschließend, wie ihre Metadata-Dictionaries aus Azure OpenAI-Chat-Completion-Antworten befüllt werden. Fügen Sie die Werte x-rate-limit-remaining-requests und x-ratelimit-remaining-tokens zu beiden Metadata-Dictionaries hinzu und überprüfen Sie, dass Streaming- und Nicht-Streaming-Antworten sie bereitstellen.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Beschreibung

java

Raw Azure OpenAi chat completion response contains additional headers, which contain information about rate limits:
x-rate-limit-remaining-requests and x-ratelimit-remaining-tokens. Would it be possible to add these values to the Metadata dictionary in both OpenAIStreamingChatMessageContent and OpenAIChatMessageContent class? I find rate limit information useful, but in current .Net implementation there is no way to access it.

See microsoft/semantic-kernel#8421 for the .NET version of this issue.

Vorherrschende Sprache: Java
Sterne: 276
Forks: 56
Ø Merge: 17 Std. 45 Min.
Gemergte PRs (30 T.): 4

Beitragsleitfaden

Beitragsleitfaden öffnen

Erste Schritte

Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
Forken Sie das Repository und arbeiten Sie in einem Branch.
Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.

Mehr aus microsoft/semantic-kernel-java

New Feature: support vllm platform with hooks Offen

Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 20/100

microsoft/semantic-kernel-java#334 · 1 Kommentar · Erstellt am 27.8.2025
Feature Parity Inquiry: Multi-Agent Orchestration and Roadmap Alignment with Python/.NET Versions Offen

Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 25/100

microsoft/semantic-kernel-java#331 · 7 Kommentare · Erstellt am 15.8.2025
Bug: HTTP 404 Error When Using OpenAI-Compatible Endpoint with Semantic Kernel 1.4.4-RC1 Offen

bug triage

microsoft/semantic-kernel-java#330 · 3 Kommentare · 1 zugewiesene Person · Erstellt am 05.8.2025
agents without chatcompletion ? Offen

bug triage

Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 20/100

microsoft/semantic-kernel-java#328 · 1 Kommentar · Erstellt am 05.8.2025
Java: Remove SK planners Offen

microsoft/semantic-kernel-java#323 · 1 Reaktion · 2 zugewiesene Personen · Erstellt am 09.6.2025

Alle Issues in microsoft/semantic-kernel-java