Activity/Workflow TaskProcessor opens a brand-new gRPC channel per task, causing native grpc-core crashes (SIGABRT) under load
まだ誰も着手していません。
評価
- 難易度
- 2/5
- 見積もり時間
- 1〜3時間
- 初心者へのやさしさ
- 82/100
- issue の種類
- バグ
- 明瞭さ
- 明確に書かれている
- 活発さ
- 活発
- 技術スタック
- grpc, ruby
調査の方向性
lib/temporal/activity/poller.rb の 110-114 行付近と lib/temporal/activity/task_processor.rb の 71-73 行付近を読み、次に poller と task processor がどのように接続を取得しているかをたどってください。task processors が poller の長期間存続する接続を再利用でき、接続を提供しない callers に対する既存の動作を変更しないことが完了条件です。関連するテストスイートを実行し、concurrent task processing が引き続きカバーされていることを確認してください。
索引モデルが issue の本文から書いたものです。
説明
Environment
- temporal-ruby: current
master(b5efd2cef8) - grpc gem: 1.66.0
- Ruby 3.3.6, Rails 7
What happened
Our Rails-based Temporal workers (Temporal::Worker, activity_thread_pool_size: 10, workflow_thread_pool_size: 6) crash intermittently with exit code 134 (SIGABRT) — a native abort inside the grpc gem's C++ core, uncatchable from Ruby. Two different internal failure signatures observed on different occasions:
terminate called after throwing an instance of 'std::logic_error'
what(): basic_string::_S_construct null not valid
terminate called recursively
Aborted (core dumped)
and, separately:
F0000 ... work_stealing_thread_pool.cc:186] Check failed: pool_->IsQuiesced()
*** Check failure stack trace: ***
Aborted (core dumped)
Root cause
Activity::Poller#process(task) / Workflow::Poller#process(task) construct a brand-new TaskProcessor for every polled task:
TaskProcessor#connection memoizes its own Temporal::Connection::GRPC:
So every single activity/workflow task opens a brand-new gRPC channel (fresh DNS resolution, fresh TLS handshake, fresh subchannels/LB policy) and tears it down again right after finishing. Under load (several tasks/sec with a non-trivial activity_thread_pool_size), this produces heavy concurrent gRPC channel churn. We confirmed this directly via GRPC_TRACE=call_error,client_channel: 48 distinct channel handles, 33 creating client_channel / 89 destroying subchannel wrapper lines in a single ~3 minute window on one worker pod.
That churn races grpc-core's internal C++ lifecycle bookkeeping (subchannel refcounting, LB policy teardown, and the EventEngine thread pool's shutdown/quiescence accounting) and trips different fatal internal assertions depending on timing — which is why we saw two different crash signatures for what appears to be the same underlying stressor.
This may also explain, or be related to, #291 ("Unable to poll" / GRPC::Unavailable: Socket closed errors happening frequently under similar thread-pool concurrency), and possibly #280.
Proposed fix
TaskProcessor should reuse the Poller's own long-lived connection instead of building its own per task. gRPC channels are explicitly designed to be shared across concurrent calls, so this is safe even with several TaskProcessors running concurrently on the poller's thread pool — the connection's only Mutex (poll_mutex) guards solely the long-poll bookkeeping (poll_activity_task_queue/poll_workflow_task_queue/cancel_polling_request), not the respond_*_task_completed/respond_*_task_failed calls concurrent task processors make, so no new lock contention is introduced by sharing.
We've deployed this exact fix downstream (as a monkeypatch, since we can't modify the gem source directly in our app) and confirmed 0 crashes over a multi-day soak in an environment that was previously crash-looping every ~10 minutes to a few hours.
Happy to open a PR with this fix — backward-compatible, adds an optional connection: keyword arg to TaskProcessor#initialize defaulting to nil, so existing behavior is unchanged for anyone not passing it. Let me know if that's welcome.
- 主要言語
- Ruby
- スター
- 288
- フォーク
- 113
- 平均マージ
- 10日 15時間
- マージ済み PR(30日)
- 2
コントリビューションガイド
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
coinbase/temporal-ruby のほかの issue
-
難易度 3/5 1〜2日 初心者へのやさしさ 35/100
coinbase/temporal-ruby#341 ·
-
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
coinbase/temporal-ruby#328 · コメント 1 件 ·
-
難易度 3/5 1〜2日 初心者へのやさしさ 45/100
coinbase/temporal-ruby#326 · コメント 1 件 ·
-
難易度 4/5 3〜5日 初心者へのやさしさ 25/100
coinbase/temporal-ruby#324 · コメント 3 件 · リアクション 2 件 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 20/100
coinbase/temporal-ruby#322 ·
coinbase/temporal-ruby の issue をすべて見る
似ている issue
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
hanami/hanami-cli#449 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
resque/resque-scheduler#826 ·
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
-
難易度 2/5 1〜3時間 初心者へのやさしさ 65/100
-
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100