Dépôts

Dépôts de neuralmagic

2 dépôts pris en charge

Afficher les dépôts avec des issues indexées
neuralmagic/nm-vllmPython

A high-throughput and memory-efficient inference and serving engine for LLMs

Dernier commit 4 sept. 2024

 (266 stars) (10 forks) (0 issues indexées) (0 good first issues ouvertes)
neuralmagic/vllmPython

A high-throughput and memory-efficient inference and serving engine for LLMs

Dernier commit 4 juin 2026

 (17 stars) (7 forks) (0 issues indexées) (0 good first issues ouvertes)