AVX-512 instructions enable denser packing and more efficient lookups.
Personne n'a encore pris cette issue.
Évaluation
- Difficulté
- 4/5
- Temps estimé
- 3-5 jours
- Accessibilité débutants
- 35/100
- Type d'issue
- Fonctionnalité
- Clarté
- À clarifier
- Activité
- Calme
- Stack technique
- cpp
- Domaine
- performance
Piste de recherche
Commencez par examiner l’implémentation liée dans src/ternary_mm_avx512.cpp et comparez son approche de recherche à cinq activations avec le code BitNet correspondant. Identifiez le point d’intégration prévu et déterminez quel benchmark ou quelle validation démontrerait l’accélération annoncée ; l’issue ne nomme aucun fichier BitNet ni aucun test définissant l’achèvement.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Description
I have an implementation put together here: https://github.com/tommyyliu/lut_mm/blob/master/src/ternary_mm_avx512.cpp
The table has all the dot products with 5 activations instead of just 3. This means that each lookup handles 5 instead of 3, and you can see pretty substantial speedup.
- Langage dominant
- C++
- Étoiles
- 40.6k
- Forks
- 3.8k
- Métriques de merge des PR
- Aucune PR mergée en 30 j
Préparer son environnement
Ce projet ne fournit ni conteneur de développement, ni Dockerfile, ni guide de contribution : l'installation est à votre charge. Commencez par son README, et consultez notre guide de la première contribution pour les étapes générales.
Par où commencer
- Lisez l'issue en entier, puis le guide de contribution du projet.
- Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
- Forkez le dépôt et travaillez sur une branche.
- Ouvrez une pull request qui référence le numéro de l'issue.
Autres issues de microsoft/BitNet
-
Difficulté 2/5 1-3 heures Accessibilité débutants 86/100
-
i2_s SIGSEGVs at n_ubatch >= 32: BLAS backend dequantises by a row stride 4x the real packed rowOuverte
Difficulté 2/5 1-3 heures Accessibilité débutants 76/100
-
Difficulté 2/5 1-3 heures Accessibilité débutants 86/100
-
Warning: `huggingface-cli` is deprecated and no longer works. Use `hf` instead.Peut-être pris @ousamabenyounes l’a pris il y a 64 jours. Ouverte
Difficulté 1/5 Moins d'une heure Accessibilité débutants 92/100
-
Difficulté 2/5 1-3 heures Accessibilité débutants 76/100
Toutes les issues de microsoft/BitNet
Issues similaires
-
bug
Difficulté 2/5 1-3 heures Accessibilité débutants 74/100
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 2/5 1-3 heures Accessibilité débutants 74/100
Les mainteneurs répondent en général sous 1 jour
-
enhancement
Difficulté 2/5 1-3 heures Accessibilité débutants 72/100
Les mainteneurs répondent en général sous 1 jour
-
`IO.FS.realPath` reports every failure as `noFileOrDirectory` instead of classifying by `errno`Ouvertebug
Difficulté 2/5 1-3 heures Accessibilité débutants 66/100
leanprover/lean4#15683 ·
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 2/5 1-3 heures Accessibilité débutants 66/100
touhouworldcup/thprac#414 ·