[Bug] PL/Python statement_timeout can leave a zombie subprocess despite finally: wait()
メンテナーはふだん 2 日以内に返信
評価
この issue はまだ評価されていません。
説明
Apache Cloudberry version
main, probably REL_2_STABLE
What happened
When statement_timeout cancels a PL/Python function waiting in subprocess.Popen.communicate(), the SQL statement can return a cancellation error while its timeout child remains a zombie, despite an explicit process.wait() in a finally block.
The zombie remains a child of the backend after subsequent SQL statements and disappears when the backend session closes. The monitored command itself has already finished.
This was discovered while reviewing #2117, but also reproduces with a harmless sleep command and does not require diskquota or segment recovery.
What you think should happen instead
The exited subprocess should be reaped before the cancellation error is returned to the client.
How to reproduce
The measured runs used coordinator connections with options='-c gp_role=utility' and autocommit enabled.
To reproduce under the same conditions, start an interactive psql session connected to the coordinator. Replace the placeholders with your connection details:
PGOPTIONS='-c gp_role=utility' psql -h <coordinator_host> -p <coordinator_port> -d <database>
Run the following statements with autocommit enabled and without an explicit transaction. Record the value returned by SELECT pg_backend_pid();.
CREATE EXTENSION IF NOT EXISTS plpython3u;
CREATE OR REPLACE FUNCTION public.zombie_repro()
RETURNS void LANGUAGE plpython3u AS $$
import subprocess
p = subprocess.Popen(
['timeout', '-k', '1', '5', 'sleep', '0.3'],
stdout=subprocess.PIPE,
stderr=subprocess.STDOUT
)
try:
p.communicate()
finally:
p.wait()
$$;
SELECT pg_backend_pid();
SET statement_timeout = '100ms';
SELECT public.zombie_repro();
RESET statement_timeout;
SELECT 1;
Keep the psql session open after the timeout error. From another terminal on the coordinator host, inspect the backend’s child processes, replacing <backend_pid> with the recorded PID:
ps -o pid,ppid,stat,comm --ppid <backend_pid>
When the issue reproduces, a timeout process appears with STAT containing Z and PPID matching the backend PID. It persists after subsequent SQL statements and disappears when the session closes.
The result is timing-dependent and does not occur on every invocation. If necessary, repeat the procedure using a fresh connection for each attempt.
Observed reproduction rates:
- Minimal example above: 16 out of 20 independent backend sessions.
- Exact
pg_recoverseghelper from #2117, invoking realgprecoverseg: 12 out of 20 independent backend sessions.
Every attempt returned SQLSTATE 57014 from the function call. Zombie detection was performed after RESET statement_timeout, a 200 ms delay, and SELECT 1. A separate check confirmed persistence after two seconds and another SELECT 1.
Each attempt closed its connection afterwards, so the counts do not include children left by previous attempts.
Operating System
Any
Anything else
The results above were verified in this environment:
- Ubuntu 22.04, Linux x86_64.
- Python 3.10.12.
- Cloudberry 3.0.0-devel / PostgreSQL 16.9, with assertions enabled.
- Server source commit:
070d9d33b3bacea45d991f54c100b4bc077c8d58.
Possible cause to investigate: StatementTimeoutHandler signals both the backend process group and the backend PID, while PLy_handle_cancel_interrupt queues KeyboardInterrupt through Py_AddPendingCall. Repeated cancellation may interrupt cleanup. This is a hypothesis, not a confirmed root cause.
Are you willing to submit PR?
- Yes, I am willing to submit a PR!
Code of Conduct
- I agree to follow this project's Code of Conduct.
- 主要言語
- C
- スター
- 1.4k
- フォーク
- 265
- 平均マージ
- 3日 17時間
- マージ済み PR(30日)
- 68
環境構築
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートあり
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
apache/cloudberry のほかの issue
-
[Bug] Expand fails to recognize user-defined tablespaces対応中かも @nix-oss が 72 日前に担当しました。 オープンtype: Bug
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
apache/cloudberry#1885 · リアクション 2 件 ·
メンテナーはふだん 2 日以内に返信
-
gpexpand first stage fails: 'SyncPackages' object has no attribute 'ret' (extension sync never runs; regression)対応中かも @talmacschen-arch が 134 日前に担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 86/100
apache/cloudberry#1825 ·
メンテナーはふだん 2 日以内に返信
-
[Bug] GPORCA: “could not find MotionState” for correlated EXISTS with LIMIT and a scalar subquery対応中かも @Alena0704 が 1 日前に担当しました。 オープンtype: Bug
apache/cloudberry#2221 · 担当者 1 名 ·
メンテナーはふだん 2 日以内に返信
-
難易度 4/5 3〜5日 初心者へのやさしさ 42/100
apache/cloudberry#2214 · コメント 1 件 ·
メンテナーはふだん 2 日以内に返信
-
難易度 4/5 3〜5日 初心者へのやさしさ 35/100
apache/cloudberry#2213 · コメント 4 件 ·
メンテナーはふだん 2 日以内に返信
apache/cloudberry の issue をすべて見る
似ている issue
-
vim.filetype.match() prefixes a URL buffer name with the cwd before passing it to filetype functionsオープン
難易度 2/5 1〜3時間 初心者へのやさしさ 73/100
メンテナーはふだん 1 日以内に返信
-
stream_curl: retry_count never resets after a successful reconnect, so long sequential streams die after 5 drops対応中かも このイシューにリンクされたプルリクエストがオープン中、またはマージ済みです。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 70/100
mpv-player/mpv#18728 ·
メンテナーはふだん 1 日以内に返信
-
followup Prio 📌
難易度 2/5 1〜3時間 初心者へのやさしさ 66/100
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
cyrusimap/cyrus-imapd#6640 ·
メンテナーはふだん 2 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 60/100
メンテナーはふだん 1 日以内に返信