Unable to use explicit caching in batch mode
维护者通常 1 天内回复
@hemasekhar-p 已经在做这个了。
开始于 2025年12月22日。
评估
这个 Issue 还没有评估数据。
描述
Environment details
- Programming language: Java
- OS: Windows/Linux
- Language runtime version: 21
- Package version: 1.10.0
Steps to reproduce
- Create a cache for the system message
CachedContent cachedContent = client.caches.create(model.getModel(),
CreateCachedContentConfig.builder()
.systemInstruction(Content.fromParts(Part.fromText(systemMessage)))
.ttl(Duration.ofDays(1L))
.build());
- Create a batch job and try to use the cache
String cacheName = cachedContent.name().get();
BatchJob job = client.batches.create(model.getModel(),
BatchJobSource.builder()
.inlinedRequests(InlinedRequest.builder()
.contents(contents)
.config(GenerateContentConfig.builder()
.cachedContent(cacheName)
.responseMimeType("application/json")
.responseSchema(Schema.fromJson(schema.getJsonSchema()))
.build())
.build())
.build(),
CreateBatchJobConfig.builder().build());
- Run:
com.google.genai.errors.ClientException: 400 . Invalid JSON payload received. Unknown name "cachedContent" at 'batch.input_config.requests.requests[0]': Cannot find field.
at com.google.genai.errors.ApiException.throwFromResponse(ApiException.java:94)
at com.google.genai.HttpApiResponse.getBody(HttpApiResponse.java:37)
at com.google.genai.Batches.privateCreate(Batches.java:2384)
at com.google.genai.Batches.create(Batches.java:2684)
When looking into the API it appears that cached_content needs to be part of InlinedRequest (resp. its builder). Is this assumption correct? I looked into the Python type defintions and it does it the same way.
- 主要语言
- Java
- 星标
- 398
- 派生
- 126
- 平均合并
- 1 天 12 小时
- 30 天内合并 PR
- 71
环境准备
- 没有 Dockerfile 或 Docker Compose 文件
- 没有 Pull Request 模板
- 阅读贡献指南
从这里开始
- 先读完整个 Issue,再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库,在一个分支上完成修改。
- 提交 Pull Request,并在描述里引用这个 Issue 编号。
googleapis/java-genai 的其他 Issue
-
ResponseStream.close() can block on the reader lock before closing the HTTP response可能已有人在做 @hirematha 于 1 天前认领。 未关闭priority: p2 type: bug
难度 2/5 1-3 小时 新手友好度 68/100
googleapis/java-genai#1372 ·
维护者通常 1 天内回复
-
Interactions API: GaosClientException.getMessage() only returns "400 . API error occurred" and omits the server error details可能已有人在做 @hemasekhar-p 于 25 天前认领。 未关闭priority: p2 type: bug
googleapis/java-genai#1282 · 1 条评论 · 已指派 1 人 ·
维护者通常 1 天内回复
-
Interactions API: store(false) omits "id", breaking Interaction and InteractionCompletedEvent deserialization可能已有人在做 @hemasekhar-p 于 25 天前认领。 未关闭priority: p2 type: bug
googleapis/java-genai#1281 · 1 条评论 · 已指派 1 人 ·
维护者通常 1 天内回复
-
Interaction.outputText() always returns Optional.empty() (SDK-computed field is never populated)可能已有人在做 @hemasekhar-p 于 25 天前认领。 未关闭priority: p2 type: bug
googleapis/java-genai#1280 · 1 条评论 · 已指派 1 人 ·
维护者通常 1 天内回复
-
Gen AI with structured output - `propertyOrdering` in Python vs. Java implementations可能已有人在做 @hemasekhar-p 于 79 天前认领。 未关闭priority: p3 type: feature request
googleapis/java-genai#1169 · 1 条评论 · 已指派 1 人 ·
维护者通常 1 天内回复
查看 googleapis/java-genai 的全部 Issue
相似的 Issue
-
bug/错误
难度 2/5 1-3 小时 新手友好度 64/100
FCL-Team/FoldCraftLauncher#1982 · 2 条评论 ·
维护者通常 1 天内回复
-
[BUG] micronaut-serde-oracle-jdbc-json brings a second OJDBC driver onto the runtime classpath可能已有人在做 @ZARAYACH 今天认领。 未关闭
难度 2/5 1-3 小时 新手友好度 72/100
micronaut-projects/micronaut-serialization#1494 · 4 条评论 ·
维护者通常 2 天内回复
-
bug
难度 2/5 1-3 小时 新手友好度 73/100
维护者通常 2 天内回复
-
bug
难度 1/5 1 小时以内 新手友好度 85/100
vitruv-tools/Vitruv-Change#600 ·
维护者通常 1 天内回复
-
code-health feature/sync OS/Android QA/Test-Plan-Specified QA/Yes
难度 2/5 1-3 小时 新手友好度 75/100
brave/brave-browser#60327 ·
维护者通常 1 天内回复