bug: Kubernetes supervisor Pod is BestEffort QoS, so eviction terminates the sandbox
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 5/5
- Thời gian dự kiến
- Hơn một tuần
- Mức phù hợp với người mới
- 45/100
- Loại issue
- Lỗi
- Độ rõ ràng
- Khá rõ ràng
- Mức độ hoạt động
- Sôi nổi
- Công nghệ
- kubernetes, rust
- Lĩnh vực
- backend, documentation, infrastructure
Hướng nghiên cứu
Bắt đầu với supervisor_pod() và KubernetesSandboxRuntimeConfig trong crates/openshell-driver-kubernetes/src/sandbox_runtime.rs, sau đó đọc SandboxConnectionRegistry trong crates/openshell-sandbox-backend/src/sandbox_auth.rs. Xem lại docs/reference/gateway-config.mdx và các bài kiểm thử driver Kubernetes hiện có. Công việc được xem là hoàn tất khi các tài nguyên supervisor mặc định và có thể cấu hình được render và ghi tài liệu, bài kiểm thử tài nguyên đạt, và hành vi xoay vòng session được quyết định và ghi lại một cách rõ ràng.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
User Story
As a platform operator running OpenShell sandboxes on a shared Kubernetes cluster, I want the per-sandbox supervisor Pod to declare resource requests, so that node memory pressure does not silently terminate running agent sandboxes.
Problem Statement
The RFC 0012 Kubernetes topology creates a companion supervisor Pod per sandbox. That Pod is built in supervisor_pod() (crates/openshell-driver-kubernetes/src/sandbox_runtime.rs) with no resources block, and the driver config exposes no field to add one — KubernetesSandboxRuntimeConfig offers only supervisor_image and supervisor_image_pull_policy.
With no requests or limits, the supervisor Pod is assigned BestEffort QoS, which makes it the first candidate the kubelet evicts under node memory pressure. The workload Pod does receive resources (template limits are mirrored into requests), so the pair is asymmetric: the more carefully a sandbox is sized, the larger the gap between the two Pods' eviction priority.
Eviction of the supervisor is not recoverable in place:
- The supervisor Pod sets
restartPolicy: Never, so the kubelet does not restart it. - On losing the boundary connection the sandbox freezes the owned workload process tree and opens a 30-second reconnect window.
- That window admits only the same supervisor process.
SandboxConnectionRegistry::attach(crates/openshell-sandbox-backend/src/sandbox_auth.rs) pins the firstsupervisor_instance_idit accepts and returnsWrongSupervisorInstancefor any other. A recreated Pod is a new process with a new ephemeral instance ID. - The session-rotation lineage that would admit a signed successor is not wired up on this path —
SandboxConnectionRegistry::newaccepts_session_idand_session_rotationand ignores both.
When the window expires, the sandbox terminates the workload. An unrelated memory-hungry Pod scheduled onto the same node can therefore destroy running agent sandboxes.
Impact / Why This Matters
Agent sandboxes are long-running and carry uncommitted work in the PVC-backed /sandbox workspace. Losing one mid-run costs the user that session, and the trigger is a node condition the sandbox owner has no visibility into or control over. Because the supervisor is also the component holding the gateway session, the failure surfaces as a sandbox that stops responding rather than as an obvious infrastructure eviction.
The only workaround today is cluster-side: apply a LimitRange to the sandbox namespace so Kubernetes injects default requests into the supervisor Pod. That is insufficient because it is invisible to OpenShell, applies the same defaults to every Pod in the namespace including workload Pods that already carry their own sizing, and must be rediscovered and reapplied by every operator independently. It also cannot be tuned per sandbox profile — a supervisor doing TLS interception and L7 inspection for a busy agent has a materially different footprint from one relaying an idle session.
A related consequence worth deciding on separately: because the scheduler sees zero requests for supervisor Pods, node capacity planning undercounts them entirely. On a node packed with sandboxes this makes memory pressure more likely, which feeds back into the eviction path above.
Acceptance Criteria
- The Kubernetes supervisor Pod declares CPU and memory requests by default, placing it above BestEffort QoS.
- Operators can override the supervisor Pod's requests and limits through
[openshell.drivers.kubernetes]configuration. - The defaults are documented in
docs/reference/gateway-config.mdx. - A unit test asserts the rendered supervisor PodSpec carries resource requests.
- Decide and record whether an evicted or otherwise replaced supervisor should be able to resume a running generation through the existing session-rotation claims, or whether termination remains the intended behavior.
Reproduction Steps
- Deploy the gateway with the Kubernetes compute driver and create a sandbox.
- Inspect the supervisor Pod's QoS class:
Observekubectl get pod os-supervisor-<sandbox-id> -n <sandbox-namespace> \ -o jsonpath='{.status.qosClass}{"\n"}'BestEffort. - Drive the node hosting that Pod into memory pressure, or evict it directly:
kubectl delete pod os-supervisor-<sandbox-id> -n <sandbox-namespace> - Observe that the supervisor Pod is not restarted, and that the sandbox's workload is terminated after the reconnect window elapses rather than recovering.
Environment
- OpenShell:
mainat c1f2e718 (RFC 0012 isolation architecture, PR #2942) - Compute driver: Kubernetes
- Applies to all
workspace_modevalues
- Ngôn ngữ chính
- Rust
- Star
- 8.7k
- Fork
- 1.3k
- Merge trung bình
- 2 ngày 6 giờ
- Pull request đã merge (30 ngày)
- 297
Hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của NVIDIA/OpenShell
-
area:docs
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 88/100
-
state:triage-needed
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
-
area:cli state:validated
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
-
state:triage-needed
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 90/100
-
area:build spike state:review-ready state:stale
Độ khó 2/5 Nửa ngày Mức phù hợp với người mới 68/100
Tất cả issue của NVIDIA/OpenShell
Issue tương tự
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
-
state:needs triage
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 70/100
zed-industries/zed#64680 · 2 bình luận ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 70/100
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 70/100
RustPython/RustPython#8802 ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
TheLarkInn/aipm#2390 ·