Reduce Stemcell Distribution Egress Costs via Cloudflare CDN

Đang mở
#676 4 bình luận 1 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
5/5
Thời gian dự kiến
Hơn một tuần
Mức phù hợp với người mới
35/100
Loại issue
Tính năng
Độ rõ ràng
Khá rõ ràng
Mức độ hoạt động
Ít trao đổi
Công nghệ
google-cloud
Lĩnh vực
cloud, devops, infrastructure

Hướng nghiên cứu

Bắt đầu bằng việc xem xét quá trình migration liên quan trong cloudfoundry/community#926 và các tham chiếu đến tự động hóa release cho bosh-io/stemcells-index và UI/API của bosh.io. Xác định công việc về infrastructure, ánh xạ URL, rollout và khả năng tương thích ngược trong các phase được liệt kê; được xem là hoàn tất khi các tiêu chí thành công được đáp ứng mà không làm hỏng các URL GCS hiện có.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

Summary

Stemcell downloads from https://storage.googleapis.com/bosh-aws-light-stemcells/...
(and equivalent GCS buckets for other IaaS) generate significant GCP egress costs (~2K $ per month).
We can drastically reduce these costs by fronting the GCS buckets with Cloudflare CDN under a community-owned domain such as stemcells.cloudfoundry.org.

Related migration: cloudfoundry/community#926

Motivation

  • Stemcells are immutable, versioned, large artifacts — ideal CDN cache candidates.
  • Current GCS egress is billed at ~$0.12/GB; Cloudflare egress to end users is free.
  • A single cached version is fetched from origin once, then served from edge globally.
  • Improves download speed and reliability for the community.

Proposed Architecture

User → https://stemcells.cloudfoundry.org/<iaas>/<version>/<file>.tgz
         │
         └── Cloudflare CDN (cached at edge)
                │  (cache miss only)
                └── storage.googleapis.com/bosh-<iaas>-light-stemcells/...

Example URL mapping:

  • Before: https://storage.googleapis.com/bosh-aws-light-stemcells/1.425/light-bosh-stemcell-1.425-aws-xen-hvm-ubuntu-noble.tgz
  • After: https://stemcells.cloudfoundry.org/aws/1.425/light-bosh-stemcell-1.425-aws-xen-hvm-ubuntu-noble.tgz

Action Items

Phase 1 — Infrastructure setup
  • Create Cloudflare zone (or subdomain delegation) for stemcells.cloudfoundry.org
  • Verify stemcell file sizes vs Cloudflare cache limits (Free 512MB / Pro 1GB / Business 5GB / Enterprise unlimited with Cache Reserve)
  • Decide Cloudflare plan (or apply for Cloudflare's open-source / OSS sponsorship program)
  • Ensure GCS buckets (bosh-aws-light-stemcells, bosh-gce-light-stemcells, bosh-azure-light-stemcells, etc.) have allUsers:objectViewer
Phase 2 — Cloudflare configuration
  • Add CNAME stemcells.cloudfoundry.org → storage.googleapis.com (proxied)
  • Add Origin Rule: override Host header to storage.googleapis.com
  • Add URL Rewrite rule mapping /<iaas>/<path> → /bosh-<iaas>-light-stemcells/<path>
  • Configure Cache Rule: Edge TTL = 1 month, Browser TTL = 1 day, cache eligible
  • Enable Tiered Cache for better hit ratio
  • (Optional) Enable Cache Reserve for large objects
Phase 3 — Release automation integration
  • Update stemcell publishing pipeline (bosh-io / stemcells-index and equivalents) to:
    • Continue uploading to GCS as origin of truth
    • Issue a curl -I warm-up request after upload to pre-fill Cloudflare cache
    • Publish CDN URL (stemcells.cloudfoundry.org/...) in release metadata / bosh.io index
  • Update bosh.io UI/API to point downloads at CDN URL
  • Keep GCS URLs functional for backward compatibility (no breaking change)
Phase 4 — Monitoring & rollout
  • Add Cloudflare Analytics dashboard (cache hit ratio, bandwidth saved)
  • Compare GCP egress bill before/after (1 month baseline)
  • Document new URL pattern in BOSH / stemcell docs
  • Announce on cloudfoundry-dev mailing list & Slack #bosh
Phase 5 — Optional follow-up
  • Evaluate full migration of origin to Cloudflare R2 (zero egress, no large-file cache limits) if cost savings justify operational change

Success Criteria

  • >90% cache hit ratio after warm-up
  • Measurable reduction in GCP egress costs (target: >70%)
  • No regressions in stemcell download reliability
  • Zero breakage for existing consumers using old GCS URLs
Ngôn ngữ chính
Ruby
Star
52
Fork
124
Merge trung bình
1 ngày 2 giờ
Pull request đã merge (30 ngày)
23

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của cloudfoundry/bosh-linux-stemcell-builder

Tất cả issue của cloudfoundry/bosh-linux-stemcell-builder

Issue tương tự

Thêm issue về Ruby

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.