ai-amazon-bedrock: a tool result that isn't a JSON object fails the next request
I maintainer di solito rispondono entro 1 giorno
Valutazione
- Difficoltà
- 2/5
- Tempo stimato
- 1-3 ore
- Idoneità per principianti
- 79/100
- Tipo di issue
- Bug
- Chiarezza
- Specificata chiaramente
- Stato di attività
- Attiva
- Stack tecnologico
- typescript
- Ambito
- backend-api-design
Direzione di ricerca
Inizia leggendo AmazonBedrockLanguageModel.ts e la funzione toolResultContent indicata nell’issue. Verifica se esistono già test che coprono i risultati degli strumenti Bedrock e confronta come @effect/ai-anthropic gestisce i risultati non stringa. Il lavoro è completato quando i risultati degli strumenti di tipo array e primitivo possono essere inviati in una richiesta Bedrock successiva senza l’errore di convalida segnalato.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
What happens
When a tool's result is an array (or a number, boolean or null), the next request to Bedrock fails:
AiError: AmazonBedrockClient.converseStream: Invalid request. ValidationException: The format of the value at messages.6.content.1.toolResult.content.0.json is invalid. Provide a json object for the field and try again.
The result stays in the conversation's history, so every later request in that conversation fails the same way.
Reproduction
import { Effect, Schema } from "effect"
import { LanguageModel, Tool, Toolkit } from "effect/ai"
const Search = Tool.make("search", {
parameters: Schema.Struct({ query: Schema.String }),
success: Schema.Array(Schema.String)
})
const Tools = Toolkit.make(Search)
const ToolsLive = Tools.toLayer({ search: () => Effect.succeed([]) })
// With AmazonBedrockLanguageModel (Claude via Converse): the model calls `search`,
// and the request that sends its result back fails with the ValidationException above.
Cause
toolResultContent in AmazonBedrockLanguageModel.ts sends every non-string result as json:
const toolResultContent = (result: unknown) => {
if (typeof result === "string") return [{ text: result }]
if (Predicate.isUndefined(result)) return [{ text: "" }]
return [{ json: result }]
}
Converse only accepts a JSON object in ToolResultContentBlock.json. Tool allows any success schema, and @effect/ai-anthropic already handles this by stringifying non-string results.
Suggested fix
Send only objects as json and stringify everything else:
const toolResultContent = (result: unknown) => {
if (Predicate.isString(result)) return [{ text: result }]
if (Predicate.isUndefined(result)) return [{ text: "" }]
if (Predicate.isObject(result)) return [{ json: result }]
return [{ text: JSON.stringify(result) }]
}
Version: @effect/ai-amazon-bedrock 4.1.4.
- Lingua principale
- TypeScript
- Stelle
- 16.7k
- Fork
- 808
- Merge medio
- 20h 31m
- PR unite (30g)
- 733
Preparare l'ambiente
Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di Effect-TS/effect
-
HttpApiEndpoint: static path and wildcard (/*) path with the same prefix are treated as duplicate routesForse già presa @effect-bot l’ha presa oggi. Apertabug
Effect-TS/effect#10765 · 1 assegnatario ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 10/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100
I maintainer di solito rispondono entro 1 giorno
-
Investigate Deno CI timeouts in JSDoc diagnostic testsForse già presa @haranishi l’ha presa oggi. Aperta
Difficoltà 3/5 1-2 giorni Idoneità per principianti 35/100
I maintainer di solito rispondono entro 1 giorno
-
`HttpClient.withRateLimiter`: let `RateLimiterError` be handled as an `HttpClientError`Forse già presa @effect-bot l’ha presa 2 giorni fa. Apertaenhancement
Effect-TS/effect#10697 · 1 assegnatario ·
I maintainer di solito rispondono entro 1 giorno
Tutte le issue di Effect-TS/effect
Issue simili
-
type: bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
I maintainer di solito rispondono entro 2 giorni
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 67/100
db-ux-design-system/core-web#8856 ·
I maintainer di solito rispondono entro 1 giorno
-
'!' breaking change is lost when the commit also has an empty BREAKING CHANGE footerForse già presa @wittdennis l’ha presa oggi. Apertapriority: p3 type: bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 74/100
googleapis/release-please#2971 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 1/5 1-3 ore Idoneità per principianti 87/100
I maintainer di solito rispondono entro 1 giorno
-
🛠️ dette technique
Difficoltà 2/5 1-3 ore Idoneità per principianti 61/100
betagouv/mon-entreprise#4752 · 1 commento ·
I maintainer di solito rispondono entro 5 giorni