[Feature] Support data_parser in kv_batch_get_by_meta
I maintainer di solito rispondono entro 1 giorno
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 2/5
- Tempo stimato
- 1-3 ore
- Idoneità per principianti
- 72/100
Direzione di ricerca
I wrapper _by_meta si trovano in transfer_queue/interface.py; inizia da kv_batch_get_by_meta e dalla sua controparte asincrona, poi dalla firma esistente di kv_batch_get, che accetta già data_parser e parser_args. Aggiungi i due parametri alle firme _by_meta e inoltrali ad async_kv_batch_get, mantenendo l'allineamento di parser_args con meta.keys. È completato quando la chiamata di esempio nell'issue viene eseguita e il test e2e copre il percorso _by_meta.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Background
#191 added data_parser / parser_args to kv_batch_get and async_kv_batch_get. The _by_meta variants were left out of that PR.
Problem
kv_batch_put returns a KVBatchMeta, and kv_batch_get_by_meta is the natural way to read those samples back, but it does not accept a parser:
meta = tq.kv_batch_put(keys=keys, partition_id="train", fields=fields)
data = tq.kv_batch_get_by_meta(meta, select_fields="input_ids", data_parser=trim, parser_args=lengths)
# TypeError: kv_batch_get_by_meta() got an unexpected keyword argument 'data_parser'
Callers have to unpack the meta and call kv_batch_get(keys=meta.keys, partition_id=meta.partition_id, ...) instead.
Proposal
- Add
data_parserandparser_argstokv_batch_get_by_metaandasync_kv_batch_get_by_meta, with the same contract askv_batch_get;parser_argsis aligned withmeta.keys. - Forward both to
async_kv_batch_get, which the_by_metavariants already call and which already handles the parser, including theparser_argschecks. - Cover the
_by_metapath in the existing e2e test for the get-sidedata_parser.
Related PR: #191
- Lingua principale
- Python
- Stelle
- 166
- Fork
- 56
- Merge medio
- 4g 1h
- PR unite (30g)
- 15
Preparare l'ambiente
Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di Ascend/TransferQueue
-
[doc] Document the contract of storage-side callables (data_parser, merge_fn) with a tutorialAperta
Difficoltà 4/5 3-5 giorni Idoneità per principianti 55/100
Ascend/TransferQueue#195 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 30/100
Ascend/TransferQueue#188 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 45/100
Ascend/TransferQueue#180 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
Ascend/TransferQueue#173 · 2 commenti · 1 reazione ·
I maintainer di solito rispondono entro 1 giorno
-
[optim] MooncakeStore read path registers RDMA buffers on every get(), dominating end-to-end timeForse di nuovo libera @weiziyoung l’ha presa 37 giorni fa e non c’è nessuna pull request aperta. Apertaenhancement
Ascend/TransferQueue#169 · 3 commenti · 1 reazione · 2 assegnatari ·
I maintainer di solito rispondono entro 1 giorno
Tutte le issue di Ascend/TransferQueue
Issue simili
-
infrastructure
Difficoltà 2/5 1-3 ore Idoneità per principianti 74/100
khuisman/mcp-gee-sweet#1152 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
-
backroom bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
ditto-assistant/ditto-subnet#3069 ·
I maintainer di solito rispondono entro 1 giorno
-
bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 67/100
open-webui/open-webui#32901 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
0.3.3 bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
I maintainer di solito rispondono entro 1 giorno