Hacktoberfest 2026:メンテナが10月に向けて印を付けた、オープンで初心者向けの issue。 Hacktoberfest の issue を見る

Bug: BatchLimiter incorrectly counts samples

オープン
#17 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

まだ誰も着手していません。

  • #18 @samuelstevens による — マージされずにクローズ

評価

難易度
2/5
見積もり時間
1〜3時間
初心者へのやさしさ
45/100
issue の種類
バグ
明瞭さ
明確に書かれている
活発さ
停滞
技術スタック
python
領域
tooling

調査の方向性

src/saev/utils/scheduling.py の BatchLimiter.iter メソッドから始め、提供された pytest コマンドを使って tests/test_batch_limiter.py を実行します。サイズの異なるバッチと早期終了のケースを検証し、その後、どちらのシナリオでも limiter が要求された数を超えるサンプルを生成しないことを確認します。

索引モデルが issue の本文から書いたものです。

説明

Description

The BatchLimiter class in src/saev/utils/scheduling.py incorrectly counts the number of samples seen during iteration, leading to premature termination or overcounting when the actual batch size is smaller than the expected batch size.

Location

src/saev/utils/scheduling.py:114

Root Cause

In the __iter__ method, the code always increments self.n_seen by self.batch_size:

self.n_seen += self.batch_size
if self.n_seen > self.n_samples:
    return

However, the actual batch yielded might have fewer samples than self.batch_size, particularly:

  1. For the last batch when drop_last=False
  2. For dataloaders with uneven dataset sizes

This causes the limiter to overcount samples, terminating the iterator at the wrong time.

Expected Behavior

The BatchLimiter should count the actual number of samples in each batch, not assume all batches have size self.batch_size.

Actual Behavior

The limiter terminates based on incorrect counts, yielding either too many or too few samples.

Example

If we have:

  • A dataloader with 105 samples
  • batch_size = 32
  • drop_last = False
  • n_samples = 100 (what we want from BatchLimiter)

The batches would be: [32, 32, 32, 9]

But the counter would be: [32, 64, 96, 128]

When the counter hits 128 > 100, it returns after yielding all 105 samples (not 100).

Reproduction

See the unit tests in tests/test_batch_limiter.py which demonstrate this bug:

uv run --no-dev python -m pytest tests/test_batch_limiter.py -v

Test results:

  • test_batch_limiter_with_uneven_batches: Expected ≤100 samples, got 105
  • test_batch_limiter_early_termination: Expected 100 samples, got 160

Proposed Fix

Change line 114 to count the actual batch size instead of always using self.batch_size.

See PR for the implementation.

主要言語
Python
スター
67
フォーク
12
PR マージ指標
30日以内にマージされた PR はありません

環境構築

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

Imageomics/saev のほかの issue

Imageomics/saev の issue をすべて見る

似ている issue

Python の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。