CPU_RUNTIME_CACHE_CAPACITY is unsupported in OVMS plugin_config but works in raw OpenVINO Runtime
メンテナーはふだん 2 日以内に返信
評価
調査の方向性
実装ファイルもテストも指定されていません。まず、plugin_config ブロックに対する OVMS のモデル設定処理と、CPU デバイスでサポートされる設定キーの検証をたどり、ここで説明されている OpenVINO Runtime の直接的な動作と比較してください。OVMS で CPU_RUNTIME_CACHE_CAPACITY を 0 に設定するサポートされた方法を確立し、その結果を適切なテストまたは文書化された制限でカバーできれば完了です。
索引モデルが issue の本文から書いたものです。
説明
The config key CPU_RUNTIME_CACHE_CAPACITY is valid and functional when used directly with OpenVINO Runtime:
config = {
"CPU_RUNTIME_CACHE_CAPACITY": "0",
"PERFORMANCE_HINT": "THROUGHPUT"
}
However, if I put this key inside the plugin_config block of OVMS model config JSON, the server fails to start and throws an error log in terminal:
CPU_RUNTIME_CACHE_CAPACITY not found in supported config keys for device: CPU.
OVMS config snippet I used:
"config": {
"name": "vocos",
"base_path": "./models/vocos",
"target_device": "CPU",
"plugin_config": {
"CPU_RUNTIME_CACHE_CAPACITY": "0",
"PERFORMANCE_HINT": "THROUGHPUT"
}
}
Is there an equivalent supported configuration in OVMS to disable the CPU runtime cache (set CPU_RUNTIME_CACHE_CAPACITY to 0)?
- 主要言語
- C++
- スター
- 952
- フォーク
- 285
- 平均マージ
- 3日 5時間
- マージ済み PR（30日）
- 45
環境構築
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートあり
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
openvinotoolkit/model_server のほかの issue
-
KServe REST parser drops requested outputs except the last対応中かも @YugShah1510 が 4 日前に担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 35/100
openvinotoolkit/model_server#4690 ·
メンテナーはふだん 2 日以内に返信
-
KServe REST rejects INT64 and UINT64 values outside 32-bit range対応中かも @YugShah1510 が 4 日前に担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 25/100
openvinotoolkit/model_server#4688 ·
メンテナーはふだん 2 日以内に返信
-
Preserve double precision when parsing FP64 REST inputs対応中かも @YugShah1510 が 4 日前に担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 35/100
openvinotoolkit/model_server#4686 ·
メンテナーはふだん 2 日以内に返信
-
Rerank with an empty documents array or object documents fails with an internal tokenizer error対応中かも @Daksha1611 が 8 日前に担当しました。 オープン
難易度 4/5 1〜2日 初心者へのやさしさ 24/100
openvinotoolkit/model_server#4671 ·
メンテナーはふだん 2 日以内に返信
-
Downloading an image from a URL has no timeout対応中かも @Daksha1611 が 8 日前に担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 35/100
openvinotoolkit/model_server#4669 ·
メンテナーはふだん 2 日以内に返信
openvinotoolkit/model_server の issue をすべて見る
似ている issue
-
自定义颜色添加为常用颜色オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 62/100
mg-chao/snow-apps#2227 · コメント 2 件 ·
メンテナーはふだん 1 日以内に返信
-
crash lld:COFF
難易度 2/5 1〜3時間 初心者へのやさしさ 77/100
llvm/llvm-project#235970 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
[Bug]: iOS textarea wraps text mid-word because LynxUIBaseInput hardcodes NSLineBreakByCharWrappingオープン
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
lynx-family/lynx#10455 ·
メンテナーはふだん 1 日以内に返信
-
[DocDB] C++ tests that run the YSQL Connection Manager do not build odyssey or its config templateオープンarea/docdb kind/bug priority/medium status/awaiting-triage
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
yugabyte/yugabyte-db#35861 ·
メンテナーはふだん 1 日以内に返信
-
A-tools P-low S-blocked task
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
メンテナーはふだん 1 日以内に返信