Serve a robots.txt that references the sitemap

Đang mở
#523 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
3/5
Thời gian dự kiến
1-2 ngày
Mức phù hợp với người mới
58/100
Loại issue
Tính năng
Độ rõ ràng
Khá rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
javascript
Lĩnh vực
backend

Hướng nghiên cứu

Start by locating how Hypha serves generated files and how test mode is detected; the issue does not name those entry points or tests. Review the sitemap work in #375 and test-mode behavior in #404. Done means robots.txt points to the generated sitemap, disallows system and edit URLs, and disallows all crawling in test mode.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

Impact: Medium Level: Easy Type: Enhancement Usecase: De Stadsbron Value: Visitors

There is no proper robots.txt that points crawlers to the sitemap. Combined with the missing sitemap (see #375), indexing of new articles takes weeks.

Proposal

  • Generate robots.txt with a Sitemap: line pointing to the generated sitemap
  • Disallow system and edit URLs
  • Disallow everything in test mode (see #404)

Related: #375, #404

Origin: meeting on the future of Hypha (De Stadsbron).

Ngôn ngữ chính
JavaScript
Star
5
Fork
9
Merge trung bình
18 giờ 49 phút
Pull request đã merge (30 ngày)
13

Chuẩn bị môi trường

Dự án này không cung cấp dev container, Dockerfile hay hướng dẫn đóng góp, nên bạn cần tự thiết lập môi trường: hãy bắt đầu từ README và xem hướng dẫn đóng góp lần đầu của chúng tôi để biết các bước chung.

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của PlanBCode/hypha

Tất cả issue của PlanBCode/hypha

Issue tương tự

Thêm issue về JavaScript

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.