[Feature]: Run a services-only PAIR node as a container or Kubernetes pod
メンテナーはふだん 5 日以内に返信
@sherief-nv がすでに取り組んでいます。
2026年9月9日 から。
評価
この issue はまだ評価されていません。
説明
Area
Terminal / headless operation
User problem
A workload running on a Kubernetes cluster (a web app, a cron job, an agent) wants to use PAIR's endpoint, but PAIR runs on desktops and there is no documented way to put a node on the cluster. The two obvious attempts fail: a container on the pod network discovers nothing, because mDNS never leaves the local link; and pointing the workload at a node elsewhere on the LAN returns 403 loopback-only, by design.
Desired outcome
A documented, supported way to run a services-only node as a container, and as a pod on Kubernetes, that joins an existing cluster and gives the cluster's workloads an OpenAI-compatible endpoint that routes to the nodes with engines. Concretely: a Dockerfile built from the release asset, a page in docs/ that explains host networking and the loopback relay, and reference manifests.
Alternatives considered
- Issuing in-cluster workloads mTLS client certificates so they can talk to a node's TLS personality directly. Rejected: that hands out a cluster identity per consumer.
- Running the node on the Kubernetes host outside Kubernetes (systemd). Works, but is invisible to the cluster's scheduling, policy and lifecycle, and needs a relay anyway.
Additional context
CONTRIBUTING.md asks for maintainer alignment before adding a distribution channel. I have a validated implementation (PAIR v0.1.1 on OpenShift 4.22 with OVN-Kubernetes, paired with a Linux GPU node and a macOS node, five-minute soak with no failed requests) and will open it as a documentation PR with the files under services/container/. Happy to adjust the base image, drop the Dockerfile and keep only the page, or port the relay to Go if that is what you would accept.
Related: #30 fixes the address a node on an OVN-Kubernetes host advertises, which this work uncovered.
- 主要言語
- Go
- スター
- 1.6k
- フォーク
- 266
- 平均マージ
- 3日 15時間
- マージ済み PR（30日）
- 23
環境構築
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートあり
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
NVIDIA/Personal-AI-Router のほかの issue
-
enhancement
難易度 4/5 1週間以上 初心者へのやさしさ 12/100
NVIDIA/Personal-AI-Router#162 ·
メンテナーはふだん 5 日以内に返信
-
enhancement
難易度 4/5 3〜5日 初心者へのやさしさ 25/100
NVIDIA/Personal-AI-Router#154 · コメント 1 件 ·
メンテナーはふだん 5 日以内に返信
-
[Feature]: [Ollama] Alert the user about model pull failures対応中かも @ckelseynv が 2 日前に担当しました。 オープンenhancement
難易度 3/5 1〜2日 初心者へのやさしさ 56/100
NVIDIA/Personal-AI-Router#152 · コメント 1 件 · 担当者 1 名 ·
メンテナーはふだん 5 日以内に返信
-
[Bug]: /v1/responses bypasses model-owner filtering in the Ollama proxy対応中かも @ilaigold が 3 日前に担当しました。 オープン
難易度 3/5 半日 初心者へのやさしさ 84/100
NVIDIA/Personal-AI-Router#146 ·
メンテナーはふだん 5 日以内に返信
-
Make model download cancellation asynchronous対応中かも @ckelseynv が 19 日前に担当しました。 オープンenhancement
NVIDIA/Personal-AI-Router#115 · 担当者 1 名 ·
メンテナーはふだん 5 日以内に返信
NVIDIA/Personal-AI-Router の issue をすべて見る
似ている issue
-
難易度 2/5 1〜3時間 初心者へのやさしさ 84/100
メンテナーはふだん 1 日以内に返信
-
accepted bug wg/agentic-context
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
vllm-project/semantic-router#4922 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
[Bug] Extraction-mode autogen returns pod templates in random order for map-keyed CRDs, so deny and report messages change between runs対応中かも @ManojLamani が今日担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
kyverno/kyverno#17980 · リアクション 1 件 ·
メンテナーはふだん 1 日以内に返信
-
raised-by:reviewer
難易度 1/5 1〜3時間 初心者へのやさしさ 84/100
medici-finance/assay#2681 ·
メンテナーはふだん 1 日以内に返信
-
bug triaged
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
fullsend-ai/fullsend#8353 · コメント 4 件 · リアクション 1 件 ·
メンテナーはふだん 1 日以内に返信