SSRF-guarded page fetcher

Cerrado
  • ¿Algo no está bien?
#35 0 comentarios 0 reacciones 0 asignados Ver en GitHub

Los mantenedores suelen responder en 1 día

Ya se ha fusionado un pull request relacionado.

  • #59 de @DigiBanks99 — fusionado

Evaluación

Dificultad
4/5
Tiempo estimado
3-5 días
Aptitud para principiantes
45/100
Tipo de issue
Nueva funcionalidad
Claridad
Bastante claro
Estado de actividad
Activo
Stack tecnológico
csharp
Área
backend, security

Línea de trabajo

Implement a fetcher using HttpClient to retrieve html and convert to markdown with SSRF guards in address classification. Add unit tests with a substituted HttpMessageHandler as specified. Wait for #34, then locate the batch processing service to surface content on the Topics page.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

enhancement ready-for-agent

Parent

#21

What to build

Each result in a pending batch is fetched and reduced to its main content as markdown, so triage sees the article rather than the page chrome. The fetcher can never be used to reach services on the VM.

Acceptance criteria

  • HttpClient fetch, Readability-style main-content extraction, HTML-to-markdown conversion, truncated to a configurable token budget
  • DNS resolved and loopback, private, link-local and metadata addresses refused, re-checked on every redirect
  • Size, time and content-type limits; descriptive user agent; robots.txt respected; per-domain politeness delay
  • Fetch failures are recorded on the result and don't fail the batch
  • Fetched content visible for pending batches on the Topics page
  • Unit tests through a substituted HttpMessageHandler cover extraction, limits and redirect-to-private refusal; address classification tested directly

Blocked by

  • #34
Lenguaje dominante
C#
Estrellas
0
Forks
0
Merge medio
1 h 7 min
PR fusionados (30 d)
69

Preparar el entorno

Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de DigiBanks99/knowledge-base

Todos los issues de DigiBanks99/knowledge-base

Issues similares

Más issues de C#

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.