[Feature]: follow-up to PyTorch allocation provider to accept already rendezvoused tensors
Los mantenedores suelen responder en 3 días
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 5/5
- Tiempo estimado
- Más de una semana
- Aptitud para principiantes
- 15/100
- Tipo de issue
- Nueva funcionalidad
- Claridad
- Necesita aclaración
- Estado de actividad
- Activo
- Área
- distributed-systems
Línea de trabajo
The payload names no source files or tests. It refers to the earlier PyTorch allocation provider in #551, torch.distributed._symmetric_memory, and the single-map iris.copy limitation, so start by reading #551 and the provider it added. Done would need an agreed API for accepting pre-rendezvoused tensors, which the issue does not yet define, so settle that design with maintainers first.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Suggestion Description
#551 provides capability to run Iris device kernels with memory allocated via PyTorch, with no copy, no second heap, and no kernel changes.
and we agreed on extending it to accept tensors frameworks have already rendezvoused , because users might want to manage the memory.
Overall Motivation behind #551 and this feature request is as follows:
- Some of the inference stack already uses torch.distributed.symmetric_memory. TokenSpeed's amd_rsag* path, the TritonAllReduceBackend, and the torch.ops.symm_mem.* collectives that vLLM and SGLang-style engines may call all allocate through it. Until now, using an Iris kernel meant moving those buffers into the Iris heap. This provider lets the two coexist: a framework keeps its torch allocations, and individual Iris kernels can run on them.
- Frameworks that already own their buffers can't use Iris device kernels until the follow-up lands.
- The single-map
iris.copylimitation also means it does not yet make every Iris operation work across independently allocated tensors
Operating System
No response
GPU
No response
ROCm Component
No response
- Lenguaje dominante
- Python
- Estrellas
- 202
- Forks
- 52
- Merge medio
- 5 d 2 h
- PR fusionados (30 d)
- 12
Preparar el entorno
Inicia el contenedor de desarrollo del proyecto en tu navegador, con tu propia cuenta de GitHub.
- Incluye un Dockerfile o un archivo de Docker Compose
- Sin plantilla de pull request
- Leer la guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de ROCm/iris
-
benchmarks bug examples iris test
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
Los mantenedores suelen responder en 3 días
-
bug examples invalid iris
Dificultad 2/5 1-3 horas Aptitud para principiantes 70/100
Los mantenedores suelen responder en 3 días
-
benchmarks gluon iris
Dificultad 5/5 Más de una semana Aptitud para principiantes 30/100
Los mantenedores suelen responder en 3 días
-
bug iris test
Dificultad 4/5 3-5 días Aptitud para principiantes 40/100
ROCm/iris#556 · 2 comentarios ·
Los mantenedores suelen responder en 3 días
-
[Feature]: Formalize allocator-agnostic symmetric tensor address translationQuizá libre de nuevo @artulab la tomó hace 50 días y no hay ningún pull request abierto. Abiertoiris
ROCm/iris#546 · 2 comentarios · 1 asignado ·
Los mantenedores suelen responder en 3 días
Issues similares
-
Workflow.schedule stops when a cron deadline passes before sleepPosiblemente ocupada @HuaTNA la tomó hoy. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
Los mantenedores suelen responder en 1 día
-
[Bug] HiveDialect shares its colspecs dict with SQLAlchemy's DefaultDialect (python/pyhive)Posiblemente ocupada @rusackas la tomó hoy. Abierto
Dificultad 1/5 Menos de una hora Aptitud para principiantes 80/100
apache/kyuubi#7786 · 1 comentario ·
Los mantenedores suelen responder en 2 días
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 80/100
Los mantenedores suelen responder en 1 día
-
[20.0] hr_work_entry: Duration column of Export Time Entries is truncated to whole hoursPosiblemente ocupada @odooaktiv la tomó hoy. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
Los mantenedores suelen responder en 1 día
-
fix formatting of the sample database page of the docsPosiblemente ocupada @Aaqibhafeezkhan la tomó hoy. Abiertodocumentation good first issue help wanted
Dificultad 1/5 Menos de una hora Aptitud para principiantes 72/100
chaoss/CollectOSS#544 · 1 comentario ·
Los mantenedores suelen responder en 1 día