Support sm100 and sm120 in CUDA pre‑built wheels

Offen
#2,341 0 Kommentare 1 Reaktion 0 zugewiesene Personen Auf GitHub ansehen

Maintainer antworten meist innerhalb von 1 Tag

Dieses Issue hat noch niemand übernommen.

Bewertung

Schwierigkeit
3/5
Geschätzter Aufwand
1-2 Tage
Anfängerfreundlichkeit
65/100
Issue-Typ
Feature
Klarheit
Klar beschrieben
Aktivitätsstatus
Ruhig
Tech-Stack
python
Bereich
build-system

Rechercherichtung

Sieh dir die Build-Konfiguration für CUDA wheels an, wahrscheinlich in setup.py, pyproject.toml oder einem CI-Skript wie .github/workflows/build.yml. Finde heraus, wo ARCHS definiert ist, und füge '100' und '120' zur Liste hinzu. Teste dies, indem du lokal ein Wheel baust oder die CI-Logs überprüfst, um sicherzustellen, dass die neuen Architekturen in der Build-Matrix enthalten sind.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Beschreibung

CUDA : ARCHS = 750,800,860,890,900

The current pre‑built CUDA wheels only support up to sm90. Please extend the build to include sm100 and sm120 so users with newer GPUs (B200 and RTX 50 series) can install directly via pip without compiling from source. Thank you!

Vorherrschende Sprache
Python
Sterne
10.7k
Forks
1.5k
Ø Merge
1 Std. 40 Min.
Gemergte PRs (30 T.)
5

Entwicklungsumgebung

Erste Schritte

  1. Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
  2. Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
  3. Forken Sie das Repository und arbeiten Sie in einem Branch.
  4. Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.

Mehr aus abetlen/llama-cpp-python

Alle Issues in abetlen/llama-cpp-python

Ähnliche Issues

Weitere Issues zu Python

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.