[Feature]: PAIR feedback: model-level routing toggles, controlled test runs, and concurrency controls
メンテナーはふだん 5 日以内に返信
まだ誰も着手していません。
評価
調査の方向性
This is a broad feature request covering several separate controls: per-model routing toggles, keep-loaded, concurrency limits, and test-runner scope. No files, tests or entry points are named in the payload, so start by locating the model load/eject actions and the test runner in the desktop UI. Done would mean the request is split into smaller issues with agreed scope.
索引モデルが issue の本文から書いたものです。
説明
Area
Desktop experience
User problem
Hi NVIDIA PAIR team,
First, thank you for building and releasing Personal AI Router. I’m genuinely excited about the product. I love NVIDIA’s local AI direction, and PAIR is exactly the kind of tool I want to use across my RTX machines.
After setting up PAIR across two Windows systems, I ran into a few workflow issues that I think could be improved with some model-level controls.
Right now, PAIR appears to expose model actions like load and eject, but I could not find a clean way to decide which installed models are eligible for routing. That makes the routing behavior feel too automatic. I would love to see controls such as:
- Enable/disable routing per model
- Keep-loaded toggle per model
- Max concurrent models per node
- Preferred node per model
- “Test selected model only”
- “Test selected node only”
- A safer “test all” mode that runs one model at a time, or with a visible concurrency limit
- Time Based Scheduled Loading of Model or Models and Model Grouping
In my setup, the broad test behavior appeared to launch many workload checks across many models at once. Some tests passed, but many failed with messages like “client disconnected before completion” or “context canceled.” When I tested specific models one at a time, the routes worked much more reliably. So the issue seemed less like every model was broken and more like the test runner was overloading the environment or timing out before queued model loads could complete.
I think PAIR would be much easier to trust if installed models, loaded models, and routing-eligible models were treated as separate states in the UI.
Thank you again for the work on PAIR. I’m excited about where this is going, and I hope this feedback is useful.
Best,
Chris
Desired outcome
- Enable/disable routing per model
- Keep-loaded toggle per model
- Max concurrent models per node
- Preferred node per model
- “Test selected model only”
- “Test selected node only”
- A safer “test all” mode that runs one model at a time, or with a visible concurrency limit
- Time Based Scheduled Loading of Model or Models and Model Grouping
Alternatives considered
No response
Compatibility and security implications
No response
Validation approach
No response
Confirmations
- I searched existing issues for duplicates.
- I agree to follow the Code of Conduct.
- 主要言語
- Go
- スター
- 1.6k
- フォーク
- 266
- 平均マージ
- 3日 15時間
- マージ済み PR(30日)
- 23
環境構築
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートあり
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
NVIDIA/Personal-AI-Router のほかの issue
-
enhancement
難易度 4/5 3〜5日 初心者へのやさしさ 25/100
NVIDIA/Personal-AI-Router#154 · コメント 1 件 ·
メンテナーはふだん 5 日以内に返信
-
[Feature]: [Ollama] Alert the user about model pull failures対応中かも @ckelseynv が 1 日前に担当しました。 オープンenhancement
難易度 3/5 1〜2日 初心者へのやさしさ 56/100
NVIDIA/Personal-AI-Router#152 · コメント 1 件 · 担当者 1 名 ·
メンテナーはふだん 5 日以内に返信
-
[Bug]: /v1/responses bypasses model-owner filtering in the Ollama proxy対応中かも @ilaigold が 1 日前に担当しました。 オープン
難易度 3/5 半日 初心者へのやさしさ 84/100
NVIDIA/Personal-AI-Router#146 ·
メンテナーはふだん 5 日以内に返信
-
Make model download cancellation asynchronous対応中かも @ckelseynv が 17 日前に担当しました。 オープンenhancement
NVIDIA/Personal-AI-Router#115 · 担当者 1 名 ·
メンテナーはふだん 5 日以内に返信
-
Derive the model download and cancellation timeouts from measurement対応中かも @ckelseynv が 17 日前に担当しました。 オープンenhancement
NVIDIA/Personal-AI-Router#114 · 担当者 1 名 ·
メンテナーはふだん 5 日以内に返信
NVIDIA/Personal-AI-Router の issue をすべて見る
似ている issue
-
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
prime-radiant-inc/evener#4223 ·
メンテナーはふだん 1 日以内に返信
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
open-telemetry/opentelemetry-go-compile-instrumentation#1467 ·
メンテナーはふだん 3 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 70/100
yetone/magpie#1490 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
bug
難易度 1/5 1時間未満 初心者へのやさしさ 72/100
メンテナーはふだん 1 日以内に返信
-
a:bug
難易度 2/5 1〜3時間 初心者へのやさしさ 80/100
gotify/server#1068 · リアクション 1 件 ·
メンテナーはふだん 2 日以内に返信