PDF text increases prompt usage but not count_tokens on gemini-4-hydrogen

Đang mở
#3,379 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
4/5
Thời gian dự kiến
3-5 ngày
Mức phù hợp với người mới
42/100
Loại issue
Lỗi
Độ rõ ràng
Đặc tả rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
google-cloud, python
Lĩnh vực
backend-api-design

Hướng nghiên cứu

Start with the attached pdf_token_repro.py reproduction and compare the SDK's count_tokens request and response with generate_content usage for the two PDF inputs. The report does not isolate whether the discrepancy comes from the SDK or Gemini backend, so first check whether raw REST reproduces it and review the earlier linked report. Done means identifying the responsible layer and documenting or fixing how PDF text is accounted for.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

Description

Adding embedded text to a 10-page PDF substantially increases gemini-4-hydrogen's reported input usage, but its count_tokens estimate is unchanged. The comparison below uses a blank PDF with the same page count and dimensions as a control.

Observed through google-genai; I have not isolated whether the cause is in the SDK or backend, or tested raw REST. Please redirect me if another tracker is more appropriate.

Environment details
  • Python 3.12.13
  • macOS 26.5.2 (arm64)
  • google-genai==3.3.0, Gemini Developer API
  • thinking_level=LOW; no system instruction, tools, or response schema
Steps to reproduce
  1. Extract the attached pdf-token-repro.zip.
  2. Set GEMINI_API_KEY, then run:
pip install google-genai==3.3.0
python pdf_token_repro.py --pages 10

The script generates both synthetic PDFs and calls count_tokens and generate_content with identical contents for each model. No real documents or sensitive data are included.

Actual result

One run on 2026-11-16:

PDF Model count_tokens prompt_token_count TEXT
text.pdf gemini-3.8-flash 5,609 5,329 9
text.pdf gemini-4-hydrogen 5,638 14,642 9,322
blank.pdf gemini-3.8-flash 5,609 5,329 9
blank.pdf gemini-4-hydrogen 5,638 5,704 384

All four requests report 5,320 IMAGE tokens. On Hydrogen, adding PDF text increases reported usage by 8,938 TEXT tokens without changing the estimate.

Expected behavior

count_tokens should account for PDF text included in prompt usage, or document the difference and provide a supported way to estimate input usage before generation.

Earlier report with additional Gemini API and Vertex AI observations.

Ngôn ngữ chính
Python
Star
4.1k
Fork
1.1k
Merge trung bình
2 ngày 15 giờ
Pull request đã merge (30 ngày)
97

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của googleapis/python-genai

Tất cả issue của googleapis/python-genai

Issue tương tự

Thêm issue về Python

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.