New Container: vLLM
まだ誰も着手していません。
評価
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 初心者へのやさしさ
- 35/100
- issue の種類
- 機能追加
- 明瞭さ
- 説明が足りない
- 活発さ
- 停滞
- 技術スタック
- docker, python
- 領域
- devtools, testing-qa
調査の方向性
既存の Ollama オブジェクトと、リポジトリにおける現在のコンテナーオブジェクトの構成を出発点として確認します。テストに適した、構成可能でプログラムから利用できる vLLM オブジェクトを提供し、issue に記載されたカバレッジとパフォーマンスに関する懸念に対処できれば完了です。
索引モデルが issue の本文から書いたものです。
説明
What is the new container you'd like to have?
A vLLM object container would serve testing and usage better.
Why not just use a generic container for this?
The Ollama object is not maintained against Ollama, which causes several issues:
- Performance: Ollama performs poorly with batch sizes of 50+ requests.
- Functionality: The new "search functionality" in Ollama requires
ollama keys, which are not supported in the current object. - Coverage & Quality: Ollama’s coverage and performance are lower compared to vLLM.
Why vLLM?
The vLLM object allows development and testing in a highly configurable, programmatic way, improving the overall testing experience.
Other references
- 主要言語
- Python
- スター
- 2.3k
- フォーク
- 386
- 平均マージ
- 4時間 40分
- マージ済み PR（30日）
- 1
コントリビューションガイド
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
testcontainers/testcontainers-python のほかの issue
-
難易度 2/5 1〜3時間 初心者へのやさしさ 88/100
testcontainers/testcontainers-python#1115 · リアクション 1 件 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
-
難易度 2/5 1〜3時間 初心者へのやさしさ 67/100
testcontainers/testcontainers-python#1086 · コメント 1 件 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
testcontainers/testcontainers-python#578 · コメント 5 件 ·
-
難易度 3/5 1〜2日 初心者へのやさしさ 65/100
testcontainers/testcontainers-python の issue をすべて見る
似ている issue
-
enhancement
難易度 2/5 1〜3時間 初心者へのやさしさ 70/100
canonical/paas-charm#368 · コメント 1 件 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
-
tech debt
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
-
難易度 1/5 1時間未満 初心者へのやさしさ 90/100
StevenBlack/hosts#3256 ·
-
難易度 1/5 1時間未満 初心者へのやさしさ 90/100
qualcomm/qai-appbuilder#275 ·