ggml-org/llama.cpp

ggml : add ANE backend

Open

#10 453 ouverte le 22 nov. 2024

Voir sur GitHub
 (21 commentaires) (84 réactions) (0 assignés)C++ (18 202 forks)batch import
help wantedresearch 🔬roadmap

Métriques du dépôt

Stars
 (110 169 stars)
Métriques de merge PR
 (Merge moyen 5j 11h) (457 PRs mergées en 30 j)

Description

According to this https://github.com/ggerganov/llama.cpp/discussions/336#discussioncomment-11184134, there is a new CoreML API and an ANE backend might be possible to implement with latest Apple software/hardware.

Guide contributeur