Support batch insights in BatchEvaluationRunner

Ouverte
#678 0 commentaires 0 réactions 0 personnes assignées Voir sur GitHub

Les mainteneurs répondent en général sous 1 jour

Personne n'a encore pris cette issue.

Évaluation

Difficulté
4/5
Temps estimé
3-5 jours
Accessibilité débutants
45/100
Type d'issue
Fonctionnalité
Clarté
Plutôt claire
Activité
Active
Stack technique
aws, python

Piste de recherche

Examine the BatchEvaluationRunner class to understand its current dataset-based workflow. Review the StartBatchEvaluation API and the listed Builtin.Insight types (FailureAnalysis, UserIntent, ExecutionSummary) to understand the constraints. Determine if insights can be integrated into the existing runner or require a separate component. Check for any existing tests related to batch evaluation or insights.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Description

enhancement

BatchEvaluationRunner does not expose the batch insights workflow.

Requested behavior

Support requesting batch insights through BatchEvaluationRunner, with job polling and access to the resulting insights. The original report identifies these StartBatchEvaluation insights:

  • Builtin.Insight.FailureAnalysis
  • Builtin.Insight.UserIntent
  • Builtin.Insight.ExecutionSummary

The workflow should enforce the API constraint that insights and evaluators cannot be requested in the same job.

Why this matters

The reporter uses insights to cluster failures and identify root causes that can be addressed through prompt changes. Without SDK support, the evaluation improvement workflow requires custom orchestration outside BatchEvaluationRunner.

Open design question

Confirm whether the runner's dataset-based workflow is compatible with insights and which inputs are supported. Use that finding to determine how to expose insights through the runner, or whether a separate insights runner is needed. This compatibility question remains unresolved.

Original report environment: bedrock-agentcore 1.23.0, Python 3.13, us-west-2.

Langage dominant
Python
Étoiles
786
Forks
163
Merge moyen
4 h
PR mergées (30 j)
22

Préparer son environnement

Par où commencer

  1. Lisez l'issue en entier, puis le guide de contribution du projet.
  2. Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
  3. Forkez le dépôt et travaillez sur une branche.
  4. Ouvrez une pull request qui référence le numéro de l'issue.

Autres issues de aws/bedrock-agentcore-sdk-python

Toutes les issues de aws/bedrock-agentcore-sdk-python

Issues similaires

Plus d'issues Python

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.