Support for 4bit or 8bit tensor
Dieses Issue hat noch niemand übernommen.
Bewertung
- Schwierigkeit
- 5/5
- Geschätzter Aufwand
- Über eine Woche
- Anfängerfreundlichkeit
- 25/100
- Issue-Typ
- Feature
- Klarheit
- Muss geklärt werden
- Aktivitätsstatus
- Veraltet
- Tech-Stack
- cpp
- Bereich
- hpc, performance
Rechercherichtung
Es werden keine Dateien, Tests oder Einstiegspunkte genannt. Kläre zuerst die beabsichtigte 4-Bit- und 8-Bit-Tensordarstellung sowie den erwarteten Umfang des Beispiels, und identifiziere anschließend die relevanten Tensor- und GPU-Berechnungseinstiegspunkte; die Umsetzung sollte ein funktionierendes Beispiel enthalten, das die angeforderte reduzierte Speicherbandbreite demonstriert.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Beschreibung
Although it may be out of scope, it would be nice to have an example of computing 4bit and 8bit tensors, to save memory bandwidth.
- Vorherrschende Sprache
- C++
- Sterne
- 4k
- Forks
- 199
- PR-Merge-Kennzahlen
- Keine gemergten PRs in 30 T.
Beitragsleitfaden
Für dieses Repository ist kein Beitragsleitfaden indexiert
Erste Schritte
- Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
- Forken Sie das Repository und arbeiten Sie in einem Branch.
- Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.
Mehr aus AnswerDotAI/gpu.cpp
-
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 25/100
AnswerDotAI/gpu.cpp#72 ·
-
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 35/100
AnswerDotAI/gpu.cpp#51 ·
-
Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 35/100
AnswerDotAI/gpu.cpp#48 ·
-
Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 35/100
AnswerDotAI/gpu.cpp#45 · 4 Kommentare ·
-
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 35/100
AnswerDotAI/gpu.cpp#42 · 8 Kommentare ·
Alle Issues in AnswerDotAI/gpu.cpp
Ähnliche Issues
-
ai_reviewed
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 68/100
ydb-platform/ydb#53869 · 3 Kommentare ·
-
bug cert blocker needs triage
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 82/100
project-chip/connectedhomeip#74373 ·
-
[request] tracy/0.14.1 Offenupstream update
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 75/100
conan-io/conan-center-index#31035 ·
-
Bug
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 68/100
-
documentation
Schwierigkeit 1/5 Unter einer Stunde Anfängerfreundlichkeit 85/100
vllm-project/vllm-ascend#17329 ·