Missing usage information in npm azure/openai client response
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 4/5
- Tempo stimato
- 3-5 giorni
- Idoneità per principianti
- 35/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Abbastanza chiara
- Stato di attività
- Ferma
- Stack tecnologico
- javascript, nodejs
- Ambito
- api
Direzione di ricerca
Inizia dal punto di ingresso JavaScript mostrato nell’issue, incluso il pacchetto npm @azure/openai e la risposta di client.getChatCompletions, quindi confronta i relativi campi con la risposta di esempio di Azure OpenAI collegata. Il lavoro è completato quando la risposta espone i dettagli richiesti sull’utilizzo dei token oppure stabilisce chiaramente che questo repository non può fornirli.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
This issue is for a: (mark with an x)
- [ ] bug report -> please search issues before submitting
- [X] feature request
- [ ] documentation issue or request
- [ ] regression (a behavior that used to work and stopped in a new release)
Minimal steps to reproduce
On a Javascript application, install the package
@azure/openaiwithnpm install @azure/openai
This installs version v1.0.0-beta.5
Within the script, include:const { OpenAIClient, AzureKeyCredential } = require("@azure/openai"); const client = new OpenAIClient(CHATGPT_EP, new AzureKeyCredential(CHATGPT_KEY)); const deploymentId = "DEPLOYMENT"; const data = await client.getChatCompletions(deploymentId, CHAT_LIST); console.log(data);
Any log messages given by the failure
Expected/desired behavior
I expected the response to include have a field of "usage" (with all the tokens consumption details) as presented in example response in:
https://learn.microsoft.com/en-us/azure/ai-services/openai/reference#example-response-2
OS and Version?
Windows Chrome
Versions
Package version is v1.0.0-beta.5 (azure/openai on npm)
Mention any other details that might be useful
I tried asking in the Microsoft Learn forum but was asked to raise an issue on the github repo, I'm not even sure if this is the right place.
However, I hope to know if it is still possible to somehow get that usage details included within the response without manually adding another tokenization package locally.
Appreciate your assistance.
- Lingua principale
- Jupyter Notebook
- Stelle
- 1.4k
- Fork
- 455
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Preparare l'ambiente
Avvia il container di sviluppo del progetto nel browser, con il tuo account GitHub.
- Nessun Dockerfile né file Docker Compose
- Ha un modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di Azure-Samples/openai
-
Difficoltà 3/5 1-2 giorni Idoneità per principianti 42/100
Azure-Samples/openai#180 · 1 commento ·
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100
Azure-Samples/openai#179 ·
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
Azure-Samples/openai#177 · 1 commento ·
-
README.mdAperta
Difficoltà 5/5 Più di una settimana Idoneità per principianti 15/100
Azure-Samples/openai#175 ·
-
how to download the files generated by Azure OpenAi Assistant Code Interpreter in streaming modeAperta
Difficoltà 4/5 3-5 giorni Idoneità per principianti 32/100
Azure-Samples/openai#174 ·
Tutte le issue di Azure-Samples/openai
Issue simili
-
bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
Dans-Plugins/Medieval-Roleplay-Engine#384 ·
I maintainer di solito rispondono entro 1 giorno
-
Orchestrator error text still cuts at a locationless 'at async' or 'at new' message lineForse già presa Una pull request collegata a questa issue è aperta o già unita. Apertabug
Difficoltà 2/5 1-3 ore Idoneità per principianti 79/100
hurttlocker/o8#4997 ·
-
enhancement runtime:claude
Difficoltà 2/5 1-3 ore Idoneità per principianti 79/100
FootprintAI/Containarium#3214 ·
I maintainer di solito rispondono entro 1 giorno
-
fix(ui): serve bundled fonts from the gatewayForse già presa @dkritarth l’ha presa oggi. Apertaagent: in-progress agent: ready P3 type: bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
dkritarth/scopewatch#336 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno