[bot] Groq Batch API (`client.batches`) is not instrumented
Les mainteneurs répondent en général sous 1 jour
Personne n'a encore pris cette issue.
Évaluation
- Difficulté
- 3/5
- Temps estimé
- 1-2 jours
- Accessibilité débutants
- 45/100
- Type d'issue
- Fonctionnalité
- Clarté
- Plutôt claire
- Activité
- Active
- Stack technique
- typescript
- Domaine
- devtools, observability
Piste de recherche
Start in js/src/instrumentation/plugins/groq-plugin.ts by reading GroqPlugin.onEnable() and the existing synchronous channels, then compare with groq-interceptors.ts to see how channel handlers create spans. Read js/src/wrappers/groq.ts around groqProxy() to confirm where client.batches currently falls through unwrapped, and model batch types in js/src/vendor-sdk-types/groq.ts. Done means batches.create, batches.retrieve, and result retrieval via files.content produce spans consistent with existing Groq instrumentation, with tests covering the lifecycle.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Description
Summary
Groq's official SDK exposes a documented Batch API (groq.batches.create()/.retrieve(), plus groq.files.content() for results) for submitting async chat-completion, audio-transcription, and audio-translation jobs with a configurable completion window. This repo instruments every one of Groq's synchronous execution surfaces (chat, embeddings, audio speech/transcription/translation) but has zero coverage of the batch lifecycle.
What's missing
js/src/instrumentation/plugins/groq-plugin.ts—GroqPlugin.onEnable()(lines 37-172) subscribes to exactly five channels:chatCompletionsCreate,embeddingsCreate,audioSpeechCreate,audioTranscriptionsCreate,audioTranslationsCreate. Nobatch-related channel exists in the file.js/src/instrumentation/plugins/groq-interceptors.ts— grepped forbatch/Batch(case-insensitive): zero matches. NogroqChannels.batch*exists.js/src/vendor-sdk-types/groq.ts— grepped forbatch/Batch(case-insensitive): zero matches. NoGroqBatch/GroqBatchJobtype is modeled anywhere.js/src/wrappers/groq.ts—wrapGroq()/groqProxy()(lines 74-205) proxies onlychat.completions,embeddings, andaudio.{speech,transcriptions,translations}(lines 80-167). A client'sbatchesproperty is returned unwrapped through the top-level proxy's generic function-binding fallback (lines 169-201), soclient.batches.create(...)produces no span: no submission span, no status/polling span, no per-request result spans.
This means a customer submitting client.batches.create({ endpoint: "/v1/chat/completions", completion_window: "24h", input_file_id }) — a fully supported, documented Groq API call — gets no trace in Braintrust whatsoever, while the same customer's synchronous chat.completions.create calls are fully traced with input, output, and token/timing metrics.
Braintrust docs status
not_found. https://www.braintrust.dev/docs/providers/groq documents only synchronous spans: "Chat completion spans... Embedding spans... Audio speech spans... Audio transcription spans... Audio translation spans," plus streaming and time_to_first_token behavior. No batch/async-job tracing is mentioned anywhere on the page.
Upstream sources
- https://console.groq.com/docs/batch — Batch API guide:
groq.batches.create()requiresendpoint,completion_window("24h"through"7d"), andinput_file_id; supported endpoints are/v1/chat/completions,/v1/audio/transcriptions,/v1/audio/translations; status viagroq.batches.retrieve(); results retrieved viagroq.files.content(output_file_id).
Braintrust docs sources checked
- https://www.braintrust.dev/docs/providers/groq
- https://www.braintrust.dev/docs/guides/tracing/integrations
Local repo files inspected
js/src/instrumentation/plugins/groq-plugin.ts—GroqPlugin.onEnable()(lines 37-172), full enumerated channel listjs/src/instrumentation/plugins/groq-interceptors.ts— grepped forbatch/Batch, zero matchesjs/src/vendor-sdk-types/groq.ts— grepped forbatch/Batch, zero matchesjs/src/wrappers/groq.ts—groqProxy()(lines 74-205), proxy coverage limited tochat.completions/embeddings/audio.*
- Langage dominant
- TypeScript
- Étoiles
- 29
- Forks
- 21
- Merge moyen
- 1 j 15 h
- PR mergées (30 j)
- 76
Préparer son environnement
- Fournit un Dockerfile ou un fichier Docker Compose
- Aucun modèle de pull request
- Aucun guide de contribution
Par où commencer
- Lisez l'issue en entier, puis le guide de contribution du projet.
- Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
- Forkez le dépôt et travaillez sur une branche.
- Ouvrez une pull request qui référence le numéro de l'issue.
Autres issues de braintrustdata/braintrust-sdk-javascript
-
Difficulté 4/5 3-5 jours Accessibilité débutants 45/100
braintrustdata/braintrust-sdk-javascript#2685 ·
Les mainteneurs répondent en général sous 1 jour
-
[bot] Cloudflare Workers AI `queueRequest` (batch) inference is explicitly excluded from tracingOuverte
Difficulté 4/5 3-5 jours Accessibilité débutants 30/100
braintrustdata/braintrust-sdk-javascript#2684 ·
Les mainteneurs répondent en général sous 1 jour
-
High TypeScript checking cost from generated Zod 3 schemasPeut-être pris @lforst l’a pris il y a 13 jours. Ouverte
Difficulté 4/5 3-5 jours Accessibilité débutants 22/100
braintrustdata/braintrust-sdk-javascript#2624 · 1 commentaire · 1 personne assignée ·
Les mainteneurs répondent en général sous 1 jour
-
[bot] Instrument Luma AI (17,324 weekly downloads)Peut-être à nouveau libre Une pull request pour cette issue a été fermée sans être fusionnée. Ouvertetypescript
Difficulté 4/5 3-5 jours Accessibilité débutants 55/100
braintrustdata/braintrust-sdk-javascript#2578 ·
Les mainteneurs répondent en général sous 1 jour
-
[bot] Instrument Letta Agent SDK (87,205 weekly downloads)Peut-être à nouveau libre Une pull request pour cette issue a été fermée sans être fusionnée. Ouvertetypescript
Difficulté 4/5 3-5 jours Accessibilité débutants 55/100
braintrustdata/braintrust-sdk-javascript#2577 ·
Les mainteneurs répondent en général sous 1 jour
Toutes les issues de braintrustdata/braintrust-sdk-javascript
Issues similaires
-
bug
Difficulté 2/5 1-3 heures Accessibilité débutants 82/100
scaleway/ultraviolet#7089 ·
Les mainteneurs répondent en général sous 2 jours
-
Difficulté 2/5 1-3 heures Accessibilité débutants 72/100
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 2/5 1-3 heures Accessibilité débutants 67/100
tencent-connect/dsh-qqbot#81 ·
Les mainteneurs répondent en général sous 1 jour
-
[Bug]: Pen taps on sidebar rows start a drag and lose their clickPeut-être pris @makhnatkin l’a pris aujourd’hui. Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 62/100
Les mainteneurs répondent en général sous 1 jour
-
bug
Difficulté 2/5 1-3 heures Accessibilité débutants 66/100
clangd/vscode-clangd#1009 ·