[Feature] Support data_parser in kv_batch_get_by_meta
Los mantenedores suelen responder en 1 día
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 2/5
- Tiempo estimado
- 1-3 horas
- Aptitud para principiantes
- 72/100
Línea de trabajo
Los wrappers _by_meta están en transfer_queue/interface.py; empieza por kv_batch_get_by_meta y su contraparte asíncrona, y luego por la firma existente de kv_batch_get, que ya recibe data_parser y parser_args. Añade los dos parámetros a las firmas de _by_meta y reenvíalos a async_kv_batch_get, manteniendo la alineación de parser_args con meta.keys. Se considera terminado cuando la llamada de ejemplo del issue se ejecuta y la prueba e2e cubre la ruta _by_meta.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Background
#191 added data_parser / parser_args to kv_batch_get and async_kv_batch_get. The _by_meta variants were left out of that PR.
Problem
kv_batch_put returns a KVBatchMeta, and kv_batch_get_by_meta is the natural way to read those samples back, but it does not accept a parser:
meta = tq.kv_batch_put(keys=keys, partition_id="train", fields=fields)
data = tq.kv_batch_get_by_meta(meta, select_fields="input_ids", data_parser=trim, parser_args=lengths)
# TypeError: kv_batch_get_by_meta() got an unexpected keyword argument 'data_parser'
Callers have to unpack the meta and call kv_batch_get(keys=meta.keys, partition_id=meta.partition_id, ...) instead.
Proposal
- Add
data_parserandparser_argstokv_batch_get_by_metaandasync_kv_batch_get_by_meta, with the same contract askv_batch_get;parser_argsis aligned withmeta.keys. - Forward both to
async_kv_batch_get, which the_by_metavariants already call and which already handles the parser, including theparser_argschecks. - Cover the
_by_metapath in the existing e2e test for the get-sidedata_parser.
Related PR: #191
- Lenguaje dominante
- Python
- Estrellas
- 166
- Forks
- 56
- Merge medio
- 4 d 1 h
- PR fusionados (30 d)
- 15
Preparar el entorno
Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de Ascend/TransferQueue
-
[doc] Document the contract of storage-side callables (data_parser, merge_fn) with a tutorialAbierto
Dificultad 4/5 3-5 días Aptitud para principiantes 55/100
Ascend/TransferQueue#195 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 4/5 3-5 días Aptitud para principiantes 30/100
Ascend/TransferQueue#188 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 4/5 3-5 días Aptitud para principiantes 45/100
Ascend/TransferQueue#180 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100
Ascend/TransferQueue#173 · 2 comentarios · 1 reacción ·
Los mantenedores suelen responder en 1 día
-
[optim] MooncakeStore read path registers RDMA buffers on every get(), dominating end-to-end timeQuizá libre de nuevo @weiziyoung la tomó hace 38 días y no hay ningún pull request abierto. Abiertoenhancement
Ascend/TransferQueue#169 · 3 comentarios · 1 reacción · 2 asignados ·
Los mantenedores suelen responder en 1 día
Todos los issues de Ascend/TransferQueue
Issues similares
-
Python Volcengine provider returns failures instead of raising themPosiblemente ocupada @Ricardo-M-L la tomó hoy. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 79/100
agent-infra/sandbox#248 ·
-
Textractor leaves empty temporary files when remote retrieval failsPosiblemente ocupada @HuaTNA la tomó hoy. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
Los mantenedores suelen responder en 1 día
-
test(bm_generation): pin the learning parameters and CPU sync shortcutPosiblemente ocupada @iloveeyjafjalla la tomó hoy. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
qboson/kaiwu-pytorch-plugin#1341 ·
Los mantenedores suelen responder en 2 días
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 70/100
elder-plinius/V3R1T4S#625 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 62/100
foxglove/mcap#1907 · 1 comentario ·
Los mantenedores suelen responder en 1 día