Hacktoberfest 2026：メンテナが10月に向けて印を付けた、オープンで初心者向けの issue。 Hacktoberfest の issue を見る

transformers pipelines with generator or dataset inputs record events before inference runs

オープン
  • 何か問題がありますか？
#78 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

メンテナーはふだん 1 日以内に返信

まだ誰も着手していません。

評価

難易度
4/5
見積もり時間
3〜5日
初心者へのやさしさ
55/100
issue の種類
バグ
明瞭さ
明確に書かれている
活発さ
活発
技術スタック
huggingface, python, pytorch
領域
machine-learning, observability

調査の方向性

Start by reading the transformers Pipeline.call patch and the model forward hooks, then trace how a returned PipelineIterator is consumed. Reproduce with a generator input and compare event count, timing, and outputs with an eager call. Done means lazy inference is tracked at the intended granularity and forward hooks do not add per-item events.

索引モデルが issue の本文から書いたものです。

説明

What happens

When a transformers pipeline is called with a generator, a dataset or another lazy input, Pipeline.__call__ returns a PipelineIterator, and inference runs only as that iterator is consumed. The integration's Pipeline.__call__ patch records its success event when __call__ returns, before any inference has run. Then each consumed item runs the model outside the tracked call, so the model's forward hooks record one event per item.

Checked with transformers 5.20.1 and the fix from #77:

Call Events
clf("hello world") 1 pipeline event (correct)
out = clf(x for x in ["hello", "world"]) 1 pipeline event right away: no input_meta, near-zero duration, before any inference
list(out) 2 more model events, one per item

So two inputs produce three events, and the first one's duration and success don't describe any real inference.

Expected

For a lazy input, record one event per item as the iterator is consumed (with its duration and output), or one event when it's exhausted. No event should be recorded when __call__ returns the iterator. The model's forward hooks should stay quiet while the iterator is being consumed.

Notes

  • This predates #77; #77 only stops eager calls from being counted twice.
  • Pipeline.__call__ decides this based on input type (types.GeneratorType, Dataset, KeyDataset), so the patch can tell from the return value: a PipelineIterator or another iterator instead of a list or dict.

🤖 Generated with Claude Code

主要言語
Python
スター
17
フォーク
1
平均マージ
17時間 5分
マージ済み PR（30日）
34

環境構築

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

wild-edge/wildedge-python のほかの issue

wild-edge/wildedge-python の issue をすべて見る

似ている issue

Python の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。