AWS Kinesis/Cloudwatch scheduler errors

Đang mở

#591 mở ngày 5/10/2020 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Chưa có ai nhận issue này.

Đánh giá

Độ khó: 4/5
Thời gian dự kiến: 3-5 ngày
Mức phù hợp với người mới: 25/100

Loại issue: Lỗi
Độ rõ ràng: Cần làm rõ
Mức độ hoạt động: Đình trệ
Công nghệ: aws, java
Lĩnh vực: backend, cloud

Hướng nghiên cứu

Payload không xác định tệp nguồn hoặc bài kiểm thử nào. Hãy tái hiện vấn đề bằng cách tạo một input AWS Kinesis/CloudWatch và kiểm tra entry point KinesisConsumer cùng với các log timeout CloudWatchMetricsPublisher đã được báo cáo. Được xem là hoàn thành khi input không còn tạo ra các lỗi máy chủ đã được báo cáo hoặc mức tiêu thụ bộ nhớ cao liên quan, kèm theo độ bao phủ hồi quy khi mã liên quan cho phép.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

aws bug

Description

when creating an AWS Kinesis/Cloudwatch input, the input may shows the following server errors logs
this may be causing a high volume of memory consumption

Steps To Reproduce

create a AWS Kinesis/Cloudwatch input
observe server logs

Environment

Graylog Version: 3.3.6
Elasticsearch Version: 7.9.1
MongoDB Version: 3.6
Browser Version: firefox 81

Screen Shot 2020-10-05 at 11 57 22 AM

2020-10-05 11:53:10,501 INFO : org.graylog2.inputs.InputStateListener - Input [AWS Kinesis/CloudWatch/5f7b4f768fbf2a5a113815d5] is now STARTING
2020-10-05 11:53:10,510 INFO : org.graylog2.inputs.InputStateListener - Input [AWS Kinesis/CloudWatch/5f7b4f768fbf2a5a113815d5] is now RUNNING
2020-10-05 11:53:10,958 INFO : software.amazon.kinesis.leases.dynamodb.DynamoDBLeaseCoordinator - With failover time 10000 ms and epsilon 25 ms, LeaseCoordinator will renew leases every 3308 ms, takeleases every 20050 ms, process maximum of 2147483647 leases and steal 1 lease(s) at a time.
2020-10-05 11:53:10,975 INFO : software.amazon.kinesis.coordinator.Scheduler - Initialization attempt 1
2020-10-05 11:53:10,975 INFO : software.amazon.kinesis.coordinator.Scheduler - Initializing LeaseCoordinator
2020-10-05 11:53:14,390 INFO : software.amazon.kinesis.coordinator.Scheduler - Syncing Kinesis shard info
2020-10-05 11:53:18,300 INFO : software.amazon.kinesis.coordinator.Scheduler - Starting LeaseCoordinator
2020-10-05 11:53:18,449 INFO : software.amazon.kinesis.coordinator.Scheduler - Initialization complete. Starting worker loop.
2020-10-05 11:53:41,496 INFO : software.amazon.kinesis.coordinator.DiagnosticEventLogger - Current thread pool executor state: ExecutorStateEvent(executorName=SchedulerThreadPoolExecutor, currentQueueSize=0, activeThreads=0, coreThreads=0, leasesOwned=0, largestPoolSize=0, maximumPoolSize=2147483647)
2020-10-05 11:54:11,551 INFO : software.amazon.kinesis.coordinator.Scheduler - No activities assigned
2020-10-05 11:54:11,551 INFO : software.amazon.kinesis.coordinator.DiagnosticEventLogger - Current thread pool executor state: ExecutorStateEvent(executorName=SchedulerThreadPoolExecutor, currentQueueSize=0, activeThreads=0, coreThreads=0, leasesOwned=0, largestPoolSize=0, maximumPoolSize=2147483647)
2020-10-05 11:54:11,551 INFO : software.amazon.kinesis.coordinator.Scheduler - Sleeping ...
2020-10-05 11:54:41,611 INFO : software.amazon.kinesis.coordinator.DiagnosticEventLogger - Current thread pool executor state: ExecutorStateEvent(executorName=SchedulerThreadPoolExecutor, currentQueueSize=0, activeThreads=0, coreThreads=0, leasesOwned=0, largestPoolSize=0, maximumPoolSize=2147483647)
2020-10-05 11:55:11,684 INFO : software.amazon.kinesis.coordinator.DiagnosticEventLogger - Current thread pool executor state: ExecutorStateEvent(executorName=SchedulerThreadPoolExecutor, currentQueueSize=0, activeThreads=0, coreThreads=0, leasesOwned=0, largestPoolSize=0, maximumPoolSize=2147483647)
2020-10-05 11:55:12,686 INFO : software.amazon.kinesis.coordinator.Scheduler - No activities assigned
2020-10-05 11:55:12,686 INFO : software.amazon.kinesis.coordinator.Scheduler - Sleeping ...
2020-10-05 11:55:16,704 WARN : software.amazon.kinesis.metrics.CloudWatchMetricsPublisher - Could not publish 14 datums to CloudWatch
java.util.concurrent.TimeoutException: null
	at java.util.concurrent.CompletableFuture.timedGet(CompletableFuture.java:1771) ~[?:1.8.0_191]
	at java.util.concurrent.CompletableFuture.get(CompletableFuture.java:1915) ~[?:1.8.0_191]
	at software.amazon.kinesis.metrics.CloudWatchMetricsPublisher.blockingExecute(CloudWatchMetricsPublisher.java:87) ~[amazon-kinesis-client-2.2.10.jar:?]
	at software.amazon.kinesis.metrics.CloudWatchMetricsPublisher.publishMetrics(CloudWatchMetricsPublisher.java:74) [amazon-kinesis-client-2.2.10.jar:?]
	at software.amazon.kinesis.metrics.CloudWatchPublisherRunnable.runOnce(CloudWatchPublisherRunnable.java:138) [amazon-kinesis-client-2.2.10.jar:?]
	at software.amazon.kinesis.metrics.CloudWatchPublisherRunnable.run(CloudWatchPublisherRunnable.java:84) [amazon-kinesis-client-2.2.10.jar:?]
	at java.lang.Thread.run(Thread.java:748) [?:1.8.0_191]
2020-10-05 11:55:41,747 INFO : software.amazon.kinesis.coordinator.DiagnosticEventLogger - Current thread pool executor state: ExecutorStateEvent(executorName=SchedulerThreadPoolExecutor, currentQueueSize=0, activeThreads=0, coreThreads=0, leasesOwned=0, largestPoolSize=0, maximumPoolSize=2147483647)
2020-10-05 11:56:11,809 INFO : software.amazon.kinesis.coordinator.DiagnosticEventLogger - Current thread pool executor state: ExecutorStateEvent(executorName=SchedulerThreadPoolExecutor, currentQueueSize=0, activeThreads=0, coreThreads=0, leasesOwned=0, largestPoolSize=0, maximumPoolSize=2147483647)
2020-10-05 11:56:13,810 INFO : software.amazon.kinesis.coordinator.Scheduler - No activities assigned
2020-10-05 11:56:13,810 INFO : software.amazon.kinesis.coordinator.Scheduler - Sleeping ...
2020-10-05 11:56:28,235 WARN : software.amazon.kinesis.metrics.CloudWatchMetricsPublisher - Could not publish 4 datums to CloudWatch
java.util.concurrent.TimeoutException: null
	at java.util.concurrent.CompletableFuture.timedGet(CompletableFuture.java:1771) ~[?:1.8.0_191]
	at java.util.concurrent.CompletableFuture.get(CompletableFuture.java:1915) ~[?:1.8.0_191]
	at software.amazon.kinesis.metrics.CloudWatchMetricsPublisher.blockingExecute(CloudWatchMetricsPublisher.java:87) ~[amazon-kinesis-client-2.2.10.jar:?]
	at software.amazon.kinesis.metrics.CloudWatchMetricsPublisher.publishMetrics(CloudWatchMetricsPublisher.java:74) [amazon-kinesis-client-2.2.10.jar:?]
	at software.amazon.kinesis.metrics.CloudWatchPublisherRunnable.runOnce(CloudWatchPublisherRunnable.java:138) [amazon-kinesis-client-2.2.10.jar:?]
	at software.amazon.kinesis.metrics.CloudWatchPublisherRunnable.run(CloudWatchPublisherRunnable.java:84) [amazon-kinesis-client-2.2.10.jar:?]
	at java.lang.Thread.run(Thread.java:748) [?:1.8.0_191]
2020-10-05 11:56:41,871 INFO : software.amazon.kinesis.coordinator.DiagnosticEventLogger - Current thread pool executor state: ExecutorStateEvent(executorName=SchedulerThreadPoolExecutor, currentQueueSize=0, activeThreads=0, coreThreads=0, leasesOwned=0, largestPoolSize=0, maximumPoolSize=2147483647)
2020-10-05 11:56:53,373 INFO : org.graylog2.inputs.InputStateListener - Input [AWS Kinesis/CloudWatch/5f7b4f768fbf2a5a113815d5] is now STOPPING
2020-10-05 11:56:53,373 INFO : org.graylog.integrations.aws.transports.KinesisConsumer - Waiting up to 20 seconds for Kinesis Consumer shutdown to complete.
2020-10-05 11:56:53,374 INFO : software.amazon.kinesis.coordinator.Scheduler - Worker shutdown requested.
2020-10-05 11:56:53,904 INFO : software.amazon.kinesis.coordinator.Scheduler - All record processors have been shutdown successfully.
2020-10-05 11:56:53,904 INFO : software.amazon.kinesis.coordinator.Scheduler - Starting worker's final shutdown.
2020-10-05 11:56:53,904 INFO : software.amazon.kinesis.metrics.CloudWatchPublisherRunnable - Shutting down CWPublication thread.
2020-10-05 11:56:54,249 INFO : software.amazon.kinesis.metrics.CloudWatchPublisherRunnable - CWPublication thread finished.
2020-10-05 11:56:54,249 INFO : software.amazon.kinesis.coordinator.Scheduler - Worker loop is complete. Exiting from worker.
2020-10-05 11:56:54,807 WARN : software.amazon.kinesis.metrics.CloudWatchPublisherRunnable - Dropping metrics [software.amazon.kinesis.metrics.MetricDatumWithKey@5a342571, software.amazon.kinesis.metrics.MetricDatumWithKey@67c5fd31, software.amazon.kinesis.metrics.MetricDatumWithKey@6f661af1, software.amazon.kinesis.metrics.MetricDatumWithKey@cdbb7a51, software.amazon.kinesis.metrics.MetricDatumWithKey@1f63051] because CloudWatchPublisherRunnable is shutting down.
2020-10-05 11:56:54,807 WARN : software.amazon.kinesis.metrics.CloudWatchPublisherRunnable - Dropping metrics [software.amazon.kinesis.metrics.MetricDatumWithKey@af256011, software.amazon.kinesis.metrics.MetricDatumWithKey@38d8b02e, software.amazon.kinesis.metrics.MetricDatumWithKey@e79e7291] because CloudWatchPublisherRunnable is shutting down.
2020-10-05 11:56:54,807 WARN : software.amazon.kinesis.metrics.CloudWatchPublisherRunnable - Dropping metrics [software.amazon.kinesis.metrics.MetricDatumWithKey@d733be4e, software.amazon.kinesis.metrics.MetricDatumWithKey@d73c1ff1] because CloudWatchPublisherRunnable is shutting down.
2020-10-05 11:56:54,808 INFO : software.amazon.kinesis.leases.dynamodb.DynamoDBLeaseCoordinator - Worker graylog-node-a06f8344bfa040ceb90e6360f1deddcff126a8f5ca6e1d706652f4b2560fd070 has successfully stopped lease-tracking threads
2020-10-05 11:56:54,812 INFO : org.graylog2.inputs.InputStateListener - Input [AWS Kinesis/CloudWatch/5f7b4f768fbf2a5a113815d5] is now STOPPED
2020-10-05 11:56:54,815 INFO : org.graylog2.inputs.InputStateListener - Input [AWS Kinesis/CloudWatch/5f7b4f768fbf2a5a113815d5] is now TERMINATED```

Ngôn ngữ chính: Java
Star: 17
Fork: 13
Chỉ số merge pull request: Không có pull request nào được merge trong 30 ngày

Chuẩn bị môi trường

Không có Dockerfile hay tệp Docker Compose
Không có mẫu pull request
Đọc hướng dẫn đóng góp

Bắt đầu từ đâu

Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
Fork repository và làm thay đổi trên một nhánh.
Mở pull request có tham chiếu số hiệu của issue.

Issue khác của Graylog2/graylog-plugin-integrations

Send Microsoft Teams Notification with a proxy - Error: Unable to send the Message. Network is unreachable
Đang mở
- Có gì không ổn?
bug triaged

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

Graylog2/graylog-plugin-integrations#1350 · 3 bình luận · Mở ngày 27/10/2023
Wrong link in README.md
Đang mở
- Có gì không ổn?
bug triaged

Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 45/100

Graylog2/graylog-plugin-integrations#1339 · 2 reaction · Mở ngày 9/5/2023
AWS Kinesis/Cloudwatch input (Forwarder only): Caught exception while sync'ing Kinesis shards and leases
Đang mở
- Có gì không ổn?
bug triaged

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

Graylog2/graylog-plugin-integrations#1338 · 3 bình luận · Mở ngày 27/4/2023
Pager Duty Additional fields
Đang mở
- Có gì không ổn?
feature triaged

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 45/100

Graylog2/graylog-plugin-integrations#1157 · 2 bình luận · Mở ngày 31/8/2022
Update GreyNoise Community IP Lookup Adapter
Có thể làm lại được @roberto-graylog đã nhận 1730 ngày trước và không có pull request nào đang mở. Đang mở
- Có gì không ổn?
feature

Graylog2/graylog-plugin-integrations#957 · 1 người được giao · Mở ngày 4/1/2022

Tất cả issue của Graylog2/graylog-plugin-integrations

Issue tương tự

Unit tests: replace explicit `any` with real types in No-code block utils
Đang mở
- Có gì không ổn?
area/frontend good first issue kind/cooldown

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100

kestra-io/kestra#20061 · Mở ngày 1/10/2026

Maintainer thường phản hồi trong vòng 1 ngày
[launcher] Warn when TORNADOVM_HOME and TORNADO_SDK point to different SDKs
Đang mở
- Có gì không ổn?
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 84/100

beehive-lab/TornadoVM#1151 · Mở ngày 30/9/2026

Maintainer thường phản hồi trong vòng 1 ngày
TestOs ignores a locally built sqllogictest library when the checkout path contains a target directory
Đang mở
- Có gì không ổn?
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100

questdb/questdb#7696 · Mở ngày 30/9/2026

Maintainer thường phản hồi trong vòng 1 ngày
(cbor) `maxStringLength` not consistently checked for chunked (indefinite-length) text values
Đang mở
- Có gì không ổn?
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 77/100

FasterXML/jackson-dataformats-binary#823 · Mở ngày 30/9/2026

Maintainer thường phản hồi trong vòng 1 ngày
Add example and comments for the profile HMAC configuration
Đang mở
- Có gì không ổn?
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 90/100

networknt/light-4j#2806 · Mở ngày 30/9/2026

Maintainer thường phản hồi trong vòng 1 ngày

Thêm issue về Java

AWS Kinesis/Cloudwatch scheduler errors

Có gì không ổn?

Đánh giá

Hướng nghiên cứu

Mô tả

Description

Steps To Reproduce

Environment

Chuẩn bị môi trường

Bắt đầu từ đâu

Issue khác của Graylog2/graylog-plugin-integrations

Có gì không ổn?

Có gì không ổn?

Có gì không ổn?

Có gì không ổn?

Có gì không ổn?

Issue tương tự

Có gì không ổn?

Có gì không ổn?

Có gì không ổn?

Có gì không ổn?

Có gì không ổn?

Nhận issue mới trong hộp thư của bạn