ggml-org/llama.cpp

kubernetes example

Open

#6,546 opened on 2024年4月8日

GitHub で見る
 (25 comments) (10 reactions) (1 assignee)C++ (18,202 forks)batch import
enhancementhelp wantedkubernetes

Repository metrics

Stars
 (110,169 stars)
PR merge metrics
 (平均マージ 6d 8h) (30d で 389 merged PRs)

説明

Motivation

Kubernetes is widely used in the industry to deploy product and application at scale.

It can be useful for the community to have a llama.cpp helm chart for the server.

I have started several weeks ago, I will continue when I have more time, meanwhile any help is welcomed:

https://github.com/phymbert/llama.cpp/tree/example/kubernetes/examples/kubernetes

References

  • #6545

コントリビューターガイド

調査方針
リンク先のフォークにある部分的なHelmチャートの実装を確認し、不足しているコンポーネント（values、templates、dependenciesなど）を特定します。ローカルまたはクラウドのKubernetesクラスターでチャートをテストします。参照されているissue #6545も確認して追加のコンテキストを得てください。
技術スタック
dockerkubernetes
領域
devopsinfrastructurecloud
Issue 種別
機能
難度新しい貢献者にとっての実装難度です。1 は非常に小さな変更、5 は専門的な作業です。
2
推定時間経験ある貢献者が調査、実装、テスト、pull request 準備にかけるおおよその時間範囲です。
3-5日
活動状況Issue が今どれだけ取り組みやすいかを示します。新しい、活発、古い、ブロック中、またはメンテナー入力待ちなどです。
アクティブ
明確さ期待される変更、受け入れ条件、次の手順がどれだけ明確かを示します。
おおむね明確
前提条件
DockerKubernetesHelm
初心者向け度初回貢献者にどれだけ取り組みやすいかを 1-100 で推定したスコアです。
30