ggml : add ANE backend · ggml-org/llama.cpp#10453 | Good First Issue

(21 comments) (85 reactions) (0 assignees)C++ (18,202 forks)batch import

help wantedresearch 🔬roadmap

Repository metrics

Stars: (110,169 stars)
PR merge metrics: (平均マージ 6d 8h) (30d で 389 merged PRs)

説明

According to this https://github.com/ggerganov/llama.cpp/discussions/336#discussioncomment-11184134, there is a new CoreML API and an ANE backend might be possible to implement with latest Apple software/hardware.

コントリビューターガイド

調査方針: 参照されたディスカッションコメントとAppleのCoreMLドキュメントを確認してください。統合パターンを理解するために、ggml内の既存のMetalバックエンドを調査します。CoreML Performance Shadersを通じてANE機能を探ります。ggmlに必要なAPI呼び出しとモデル変換手順を特定します。
技術スタック: ccpp
領域: backendmachine learning
Issue 種別: 機能
難度: 4
推定時間: 1週間超
活動状況: アクティブ
明確さ: おおむね明確
前提条件: CoreMLC++Apple hardware
初心者向け度: 30