replit: Full CUDA Support
まだ誰も着手していません。
評価
- 難易度
- 5/5
- 見積もり時間
- 1週間以上
- 初心者へのやさしさ
- 10/100
- issue の種類
- 機能追加
- 明瞭さ
- 説明が足りない
- 活発さ
- 停滞
調査の方向性
この issue では、ggml-python bindings に不足している CUDA 機能が列挙されています。まず、ggml ライブラリにおける既存の CUDA サポートと、Python bindings のコードを調べます。norm layers、行列乗算の実装、マルチ GPU での layer 処理、メモリのオフロード機構を探します。この文脈で「proper offloading (no alloc)」が何を意味するのか、また現在の動作とどのように異なるのかを明らかにします。
索引モデルが issue の本文から書いたものです。
説明
Missing
- Norm layers
- Mat Mul's
- N GPU Layers
- Proper Offloading (no alloc)
- 主要言語
- Python
- スター
- 152
- フォーク
- 16
- PR マージ指標
- 30日以内にマージされた PR はありません
環境構築
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートなし
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
abetlen/ggml-python のほかの issue
-
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
abetlen/ggml-python#91 ·
-
Import errorオープン
難易度 2/5 1〜3時間 初心者へのやさしさ 65/100
abetlen/ggml-python#90 ·
-
難易度 4/5 3〜5日 初心者へのやさしさ 25/100
abetlen/ggml-python#93 · コメント 1 件 ·
-
難易度 3/5 1〜2日 初心者へのやさしさ 45/100
abetlen/ggml-python#92 ·
-
難易度 3/5 1〜2日 初心者へのやさしさ 30/100
abetlen/ggml-python#21 ·
abetlen/ggml-python の issue をすべて見る
似ている issue
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 84/100
huggingface/smolagents#2976 ·
メンテナーはふだん 1 日以内に返信
-
bug Triage-Needed
難易度 2/5 1〜3時間 初心者へのやさしさ 70/100
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 66/100
FuRongJun-1999/dsh-memory#170 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
pgvector/pgvector-python#163 ·
-
難易度 1/5 1時間未満 初心者へのやさしさ 82/100
521xueweihan/HelloGitHub#3940 ·