Trailing whitespace strip in <pre> is quadratic on a long whitespace run
Evaluación
- Dificultad
- 2/5
- Tiempo estimado
- 1-3 horas
- Aptitud para principiantes
- 78/100
Línea de trabajo
El paso lento es re_pre_rstrip.sub en strip_pre en markdownify/init.py, alrededor de la línea 78; el issue propone reemplazarlo por una llamada a str.rstrip. Lee las definiciones de re_pre_lstrip y re_pre_rstrip, luego reproduce el caso con un bloque <pre> de 64 KB de espacios finales pasado a markdownify(). Está terminado cuando ese caso se ejecuta bien por debajo de un segundo, la suite existente de 83 pruebas sigue pasando y una nueva prueba de tiempo cubre las variantes de <pre> enumeradas en el issue.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
strip_pre() takes quadratic time on a <pre> block whose trailing whitespace run is a run of spaces not ended by a newline. Measured through markdownify() on tag 1.2.3, both trees in one isolated run:
| HTML | before | after |
|---|---|---|
| 16,000 B | 0.6881 s | 0.0003 s |
| 32,000 B | 2.6570 s | 0.0004 s |
| 65,536 B | 9.1117 s | 0.0007 s |
| 131,072 B | 35.5100 s | 0.0014 s |
| 16,000 B of ordinary words | 0.0011 s | 0.0009 s |
Each doubling of the block quadruples the time, so the cost belongs to the shape rather than the size - the last row is a document of the same size that converts in a millisecond. The input is an HTML document, so nothing bounds it, and this is the default path: strip_pre defaults to STRIP, while STRIP_ONE uses the separate re_pre_rstrip1 = r'\n *$' and is unaffected.
Cause. re_pre_rstrip = re.compile(r'[ \n]*$') applied with .sub() at __init__.py:78. .sub restarts at every position in the string, and at each one the unbounded [ \n]* run expands and then backtracks looking for the $ that the following character denies.
It is worth saying why the costly shape is spaces and not newlines, because it is not obvious from the pattern alone: re_pre_lstrip = r'^[ \n]*\n' runs on the line before, so a leading newline run is consumed there and re_pre_rstrip is handed a one-character string. With no newline in the block, lstrip does not fire and rstrip receives the whole thing. On the same 65,536-byte input a newline run costs 0.0001 s and a space run 9.3704 s.
Fix. The docstring already describes a strip, so use one:
- text = re_pre_rstrip.sub('', text)
+ text = text.rstrip(' \n')
Verification.
- Test suite on both trees at tag
1.2.3: 83 passed, unchanged, with each run asserting whichmarkdownify/__init__.pywas loaded and whether it still contains the regex call. - Differential: 0 differences from current behaviour across all 29,524 strings of length 0 to 9 over
{space, newline, x}- the whole alphabet the two patterns act on. - A new test converts a 64 KB
<pre>block in under 0.5 s and checks seven<pre>spellings (blank lines, leading and trailing spaces, indentation, empty, whitespace-only). On1.2.3the timing test fails and the behaviour test passes. - Shapes aimed at the fix rather than the original (pure space run with no terminator, a leading
xthen a run, many short runs split byx) are all flat: worst 0.0003 s at 65,536 B.
re_pre_rstrip is now unused. I have deliberately left the definition in place to keep the diff to one line, since it is a module-level name that something downstream may import; say the word and I will remove it.
I am happy to open a pull request with the patch if that is easier.
Found with AI assistance (Claude) and verified by hand.
Patch: full patch
--- a/markdownify/__init__.py
+++ b/markdownify/__init__.py
@@ -75,7 +75,7 @@
def strip_pre(text):
"""Strip all leading and trailing newlines from a <pre> string."""
text = re_pre_lstrip.sub('', text)
- text = re_pre_rstrip.sub('', text)
+ text = text.rstrip(' \n')
return text
- Lenguaje dominante
- Python
- Estrellas
- 2.3k
- Forks
- 210
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Preparar el entorno
Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de matthewwithanm/python-markdownify
-
RecursionError on deeply nested HTML (about 330 levels), separate from the cyclic-tree case in #256Posiblemente ocupada @HardMax71 la tomó hace 44 días. Abierto
Dificultad 3/5 1-2 días Aptitud para principiantes 68/100
-
Image/link attributes containing `]`, `)`, or spaces produce broken Markdown outputPosiblemente ocupada @assinscreedFC la tomó hace 134 días. Abierto
Dificultad 4/5 3-5 días Aptitud para principiantes 52/100
matthewwithanm/python-markdownify#261 · 1 comentario · 1 reacción ·
-
Dificultad 3/5 1-2 días Aptitud para principiantes 65/100
matthewwithanm/python-markdownify#259 · 2 reacciones ·
-
Recursion Error: Process_element / process_tag mutual recursion (infinite loop)Posiblemente ocupada @chiliec la tomó hace 51 días. Abierto
Dificultad 3/5 1-2 días Aptitud para principiantes 50/100
-
Behavior with strip_pre=mdfy.STRIP_ONE seems incorrect with trailing newlines within the prePosiblemente ocupada @oiahoon la tomó hace 97 días. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 50/100
Todos los issues de matthewwithanm/python-markdownify
Issues similares
-
bug needs-triage priority:medium
Dificultad 2/5 1-3 horas Aptitud para principiantes 86/100
yeongseon/azure-functions-logging-python#583 ·
Los mantenedores suelen responder en 1 día
-
documentation needs-triage priority:medium
Dificultad 2/5 1-3 horas Aptitud para principiantes 85/100
yeongseon/azure-functions-validation-python#546 ·
Los mantenedores suelen responder en 1 día
-
PHP workflow streaming requests buffer the full SSE responsePosiblemente ocupada @Winoren la tomó hoy. Abiertoreview: medium
Dificultad 2/5 1-3 horas Aptitud para principiantes 84/100
langgenius/dify#44270 · 1 comentario · 1 reacción ·
Los mantenedores suelen responder en 1 día
-
P4: low
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
jeffknupp/association#523 ·
-
bug help wanted
Dificultad 2/5 1-3 horas Aptitud para principiantes 65/100
DarkStarSystems/pcons#229 ·
Los mantenedores suelen responder en 1 día