Potential misleading documentation on OpenAiClientAsync
Maintainer thường phản hồi trong vòng 1 ngày
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 3/5
- Thời gian dự kiến
- 1-2 ngày
- Mức phù hợp với người mới
- 45/100
- Loại issue
- Tài liệu
- Độ rõ ràng
- Khá rõ ràng
- Mức độ hoạt động
- Đình trệ
- Công nghệ
- kotlin
- Lĩnh vực
- api, documentation
Hướng nghiên cứu
Bắt đầu bằng cách đọc tài liệu trong openai-java-core/src/main/kotlin/com/openai/client/OpenAIClientAsync.kt quanh các dòng được trích dẫn. So sánh cách diễn đạt về giới hạn tốc độ với hành vi retry được mô tả trong issue và kiểm tra hành vi liên quan của client. Công việc được xem là hoàn tất khi xác nhận được liệu phát biểu đó có chính xác hay không và cập nhật tài liệu nếu phát biểu gây hiểu lầm.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
OpenAIClientAsync's documentation states:
This client performs best when you create a single instance and reuse it for all interactions
with the REST API. This is because each client holds its own connection pool and thread pools.
Reusing connections and threads reduces latency and saves memory. The client also handles rate
limiting per client. This means that creating and using multiple instances at the same time will
not respect rate limits. (emphasis mine)
However I find no evidence on rate limits actually being used proactively as the text suggests. I can only find evidence of reactive retry, when encountering 429 errors it automatically retries with an exponential backoff. However, that is request specific, not global to the client.
Is my understanding incorrect here or is this a documentation error? Thanks in advance.
- Ngôn ngữ chính
- Kotlin
- Star
- 1.5k
- Fork
- 264
- Merge trung bình
- 13 giờ 51 phút
- Pull request đã merge (30 ngày)
- 113
Chuẩn bị môi trường
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của openai/openai-java
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
openai/openai-java#886 · 2 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 68/100
openai/openai-java#802 · 2 bình luận · 3 reaction ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
openai/openai-java#755 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
bug sdk
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
openai/openai-java#652 · 2 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 74/100
openai/openai-java#973 ·
Maintainer thường phản hồi trong vòng 1 ngày
Tất cả issue của openai/openai-java
Issue tương tự
-
Support git worktreesĐang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
block/artifact-swap#176 ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
librepods-org/librepods#802 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
mrmans0n/asyncresult#102 ·
Maintainer thường phản hồi trong vòng 2 ngày
-
follow-up
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100
yschimke/homeassistant-remotecompose#680 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
:wave: team-triage a:chore in:isolated-projects in:kotlin-dsl
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
Maintainer thường phản hồi trong vòng 1 ngày