Feature Request / Bug: Robotic buzzing (electric shaver sound) and VRAM overflow during Batch Inference on 3GB/low-VRAM GPUs
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Aptitud para principiantes
- 48/100
- Tipo de issue
- Nueva funcionalidad
- Claridad
- Bastante claro
- Estado de actividad
- Activo
- Área
- machine-learning, performance
Línea de trabajo
Comienza en configs/config.py y luego sigue cómo is_half, infer_gpu_mem y RVC_AUDIO_FORCE_CPU llegan a las pestañas Model Inference y Batch Inference. Comprueba cómo se exponen las opciones de inferencia existentes en la WebUI y cómo se prueba el procesamiento por lotes con poca VRAM. Se considera terminado cuando ambos interruptores solicitados funcionan sin cambiar los valores predeterminados y permiten completar el flujo de trabajo reportado con una GPU de 3GB sin audio corrupto ni desbordamiento de VRAM.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
When running Batch Inference on full-length audio tracks using a 3GB GPU (NVIDIA GeForce GTX 1060 3GB), the output audio turns into a permanent synthetic/robotic buzzing sound (resembling an electric shaver). The system does not throw a CUDA out-of-memory error, but the inference breaks because of underlying PyTorch 2.7+ compatibility quirks with legacy Pascal architectures.
The problem is twofold:
- FP16 Breakdown on 3GB: The framework automatically forces FP16 (Half Precision), which silently corrupts tensors into
NaNzeros on older 3GB cards. - VRAM Overload: Long audio files completely choke the available 3GB buffer when loaded all at once.
I solved this by modifying configs/config.py to force FP32 precision and offload the data caching pipeline to the host system RAM via CPU environment flags:
if torch.cuda.is_available():
infer_device = torch.device("cuda:0")
infer_dtype = torch.float32
infer_gpu_mem = 3.0
# FIX FOR 3GB/4GB GPUS:
is_half = False
os.environ["RVC_AUDIO_FORCE_CPU"] = "1"
I request to expose these two parameters directly into the WebUI "Model Inference" / "Batch Inference" tabs as checkboxes or advanced toggles:
Force FP32 Precision (Disable is_half)Offload DataLoader Caching to System RAM (CPU)
This will instantly allow thousands of users with budget or older GPUs (GTX 1060 3GB, 1050Ti, 960) to safely process full-length songs in near real-time using Windows Shared GPU Memory without crashing the pipeline.
Additional context
- OS: Windows 10 / 11 x64
- Python: 3.12+ (Python 3.12 branch)
- PyTorch: 2.7.1+cu118
- GPU: NVIDIA GeForce GTX 1060 3GB
- Lenguaje dominante
- Python
- Estrellas
- 38.9k
- Forks
- 5.3k
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Preparar el entorno
Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de RVC-Project/Retrieval-based-Voice-Conversion-WebUI
-
Arbitrary code execution via eval() of a third-party model pack's train.log field in the WebUIAbierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
RVC-Project/Retrieval-based-Voice-Conversion-WebUI#2863 · 1 comentario · 2 reacciones ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
RVC-Project/Retrieval-based-Voice-Conversion-WebUI#2862 · 2 comentarios ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
-
add git clone into READMEAbierto
Dificultad 1/5 Menos de una hora Aptitud para principiantes 85/100
RVC-Project/Retrieval-based-Voice-Conversion-WebUI#2831 · 1 comentario ·
Todos los issues de RVC-Project/Retrieval-based-Voice-Conversion-WebUI
Issues similares
-
good first issue infrastructure
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
kuznia-rdzeni/coreblocks#1135 ·
-
good first issue server
Dificultad 2/5 1-3 horas Aptitud para principiantes 85/100
Los mantenedores suelen responder en 1 día
-
documentation priority: high
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
a-lex-s/mealie-telegram-bot#54 ·
Los mantenedores suelen responder en 1 día
-
type/test
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
SaltedTan/virgil-language-server#218 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 83/100
btclib-org/btclib-wallet#541 ·
Los mantenedores suelen responder en 1 día