Encode mishandles unrepresentable Shift_JIS characters and FB_PERLQQ
Maintainer antworten meist innerhalb von 1 Tag
Dieses Issue hat noch niemand übernommen.
Bewertung
- Schwierigkeit
- 4/5
- Geschätzter Aufwand
- 3-5 Tage
- Anfängerfreundlichkeit
- 48/100
Rechercherichtung
Start with t/pp_07_coder_check_value.t and the loaded t/tests/07_coder_check_value_euc-jp.t regression, then trace the PerlOnJava Encode implementation used by both JVM and interpreter backends. Reproduce the behavior with system Perl, add a focused regression for Shift_JIS replacement and Encode::FB_PERLQQ, and verify both backend results plus the upstream suite.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Beschreibung
Summary
Text-CSV-Encoded 0.25's unchanged EUC-JP encoding test passes under system Perl but fails on both PerlOnJava backends. The failure shows that encoding an unrepresentable character to Shift_JIS does not honor Encode's replacement/check behavior: output loses CSV quoting, and Encode::FB_PERLQQ yields U+FFFD instead of the expected \\x{2460} representation.
Reproduction
- CPAN random tester run:
20261002-182937-4648 - Distribution:
Text-CSV-Encoded0.25 - Test:
t/pp_07_coder_check_value.t, which loadst/tests/07_coder_check_value_euc-jp.t - Environment: macOS arm64, Java 24.0.2, PerlOnJava 5.44.1 (build commit
78521d8d0, 2026-10-02)
The test parses EUC-JP input and combines fields as Shift_JIS. It checks default replacement behavior and then sets encode_check_value(Encode::FB_PERLQQ) before repeating the operation.
System Perl 5.42.2 passes the complete upstream suite (14 files, 255 tests).
PerlOnJava fails both assertions on both backends:
not ok 1
got: '...,?'
expected: '...,"?"'
not ok 2
got: '...,\\x{FFFD}'
expected: '...,"\\x{2460}"'
The result was reproduced with the archived distribution and current PerlOnJava build on both JVM and interpreter backends. The distribution has no XS/C source; its xs_* tests exercise the separate Text::CSV dependency.
Expected behavior
Match system Perl for Shift_JIS encoding of characters that cannot be represented, including the default replacement and FB_PERLQQ check behavior. Preserve the resulting CSV field quoting.
Add a focused project regression for the encoding/check behavior, validate it with system Perl, then verify it on both PerlOnJava backends and rerun the upstream test.
Related issue
Related to #1445, which tracks PerlOnJava Encode compatibility, though that issue covers canonical charset names rather than unrepresentable-character handling.
- Vorherrschende Sprache
- Perl
- Sterne
- 64
- Forks
- 7
- Ø Merge
- 4 Std. 29 Min.
- Gemergte PRs (30 T.)
- 176
Entwicklungsumgebung
- Enthält ein Dockerfile oder eine Docker-Compose-Datei
- Keine Pull-Request-Vorlage
- Beitragsleitfaden lesen
Erste Schritte
- Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
- Forken Sie das Repository und arbeiten Sie in einem Branch.
- Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.
Mehr aus fglock/PerlOnJava
-
bug
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 72/100
fglock/PerlOnJava#1579 ·
Maintainer antworten meist innerhalb von 1 Tag
-
area:cpan-port area:unicode bug
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 88/100
fglock/PerlOnJava#1341 ·
Maintainer antworten meist innerhalb von 1 Tag
-
area:platform area:runtime bug
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 45/100
fglock/PerlOnJava#1635 ·
Maintainer antworten meist innerhalb von 1 Tag
-
area:cpan-port area:runtime bug
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 25/100
fglock/PerlOnJava#1634 ·
Maintainer antworten meist innerhalb von 1 Tag
-
area:cpan-port bug
Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 72/100
fglock/PerlOnJava#1633 ·
Maintainer antworten meist innerhalb von 1 Tag
Alle Issues in fglock/PerlOnJava
Ähnliche Issues
-
bug
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 70/100
convos-chat/convos#977 ·
-
Schwierigkeit 1/5 Unter einer Stunde Anfängerfreundlichkeit 90/100
inverse-inc/packetfence#9387 ·
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 72/100
linux-test-project/lcov#552 ·
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 62/100
szTheory/exifcleaner#383 ·
Maintainer antworten meist innerhalb von 1 Tag
-
1.severity: security
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 62/100
NixOS/nixpkgs#569828 · 1 Reaktion ·
Maintainer antworten meist innerhalb von 1 Tag