Hacktoberfest 2026: những issue maintainer đã đánh dấu cho tháng Mười, đang mở và phù hợp người mới. Xem issue Hacktoberfest

temporal-spring-ai: a provider 429 fails the chat activity on the first attempt

Đang mở
  • Có gì không ổn?
#3,121 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 2 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
5/5
Thời gian dự kiến
Hơn một tuần
Mức phù hợp với người mới
38/100
Loại issue
Lỗi
Độ rõ ràng
Khá rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
java, spring
Lĩnh vực
backend

Hướng nghiên cứu

Start with ActivityChatModel.java:111-114 and the reported ProviderRateLimitRetryTest cases; the issue does not give the test's file path. Compare the activity's retry behavior with Spring AI's default handling of 429 and its inner retries. The issue describes possible approaches but leaves the policy to the team; done should address the reported 429 and 503 cases, including the Retry-After and insufficient_quota distinction.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

Expected Behavior

A rate-limited LLM call (HTTP 429) through ActivityChatModel is retried by Temporal with backoff. sdk-python's OpenAI Agents integration already treats 429 as retryable and passes the provider's retry delay through (temporalio/sdk-python#1796).

Actual Behavior

The activity fails on attempt 1 with RETRY_STATE_NON_RETRYABLE_FAILURE. Spring AI's default error handlers, both the plain builder default and the Boot auto-configured one, turn every 4xx, 429 included, into NonTransientAiException (RetryUtils in Spring AI 1.1.0), and ActivityChatModel puts that type in doNotRetry by default (ActivityChatModel.java:111-114).

A related interaction on 5xx: Spring AI's own RetryTemplate (10 attempts, backoff up to 3 minutes) runs inside the activity, so a persistent 503 can send up to 30 requests across Temporal's 3 attempts. The activity has a 2-minute start-to-close and no heartbeat, so a timed-out attempt can keep calling the provider while later attempts run. sdk-python turned off Botocore's inner retries for its default Strands Bedrock model for a similar reason (temporalio/sdk-python#1797).

Steps to Reproduce the Problem

  1. Point a real OpenAiChatModel at a local stub that returns 429 with Retry-After: 7, register it with ChatModelActivityImpl, and call it from a workflow through ActivityChatModel.forDefault().
  2. The stub sees one request; the workflow gets ActivityFailure caused by ApplicationFailure of type NonTransientAiException, attempt 1.
  3. With a 503 stub and Spring AI's backoff shortened to milliseconds, the stub sees 30 requests.

I have this as a test (ProviderRateLimitRetryTest, five cases, including Boot-equivalent defaults and spring.ai.retry.on-http-codes=429). For a fix I'd rather not parse exception messages, but Spring AI's handlers throw NonTransientAiException with only a message, so the status survives only in the message and the headers are gone by the time the activity sees it. The OpenAI path could instead use a response error handler, scoped to the client Temporal calls, that keeps status, headers and the error body; the activity can then retry rate limits with Retry-After as the next delay and leave insufficient_quota 429s non-retryable, since backoff won't fix a billing limit. Whether the module should also turn off Spring AI's inner retry for calls it wraps seems like your team's call; I'll follow whichever direction you prefer.

Specifications

  • Version: sdk-java main (be01e60a), Spring AI 1.1.0
  • Platform: JDK 21, macOS
Ngôn ngữ chính
Java
Star
433
Fork
257
Merge trung bình
2 ngày 22 giờ
Pull request đã merge (30 ngày)
22

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của temporalio/sdk-java

Tất cả issue của temporalio/sdk-java

Issue tương tự

Thêm issue về Java

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.