Support sm100 and sm120 in CUDA pre‑built wheels

Aperta
#2,341 0 commenti 1 reazione 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 1 giorno

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
3/5
Tempo stimato
1-2 giorni
Idoneità per principianti
65/100
Tipo di issue
Funzionalità
Chiarezza
Specificata chiaramente
Stato di attività
Tranquilla
Stack tecnologico
python
Ambito
build-system

Direzione di ricerca

Esamina la configurazione di build per CUDA wheels, probabilmente in setup.py, pyproject.toml o in uno script CI come .github/workflows/build.yml. Trova dove è definito ARCHS e aggiungi '100' e '120' all'elenco. Verifica creando un wheel localmente o controllando i log CI per assicurarti che le nuove architetture siano incluse nella matrice di build.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

CUDA : ARCHS = 750,800,860,890,900

The current pre‑built CUDA wheels only support up to sm90. Please extend the build to include sm100 and sm120 so users with newer GPUs (B200 and RTX 50 series) can install directly via pip without compiling from source. Thank you!

Lingua principale
Python
Stelle
10.7k
Fork
1.5k
Merge medio
1h 40m
PR unite (30g)
5

Preparare l'ambiente

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di abetlen/llama-cpp-python

Tutte le issue di abetlen/llama-cpp-python

Issue simili

Altre issue su Python

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.