Hacktoberfest 2026: những issue maintainer đã đánh dấu cho tháng Mười, đang mở và phù hợp người mới. Xem issue Hacktoberfest

Support external model providers in Slurm runs

Đang mở
  • Có gì không ổn?
#1,079 1 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

@dhruvnathawani đang làm issue này rồi.

Từ ngày 23/10/2026.

  • #1080 của @dhruvnathawani — đang mở

Đánh giá

Độ khó
4/5
Thời gian dự kiến
3-5 ngày
Mức phù hợp với người mới
52/100
Loại issue
Tính năng
Độ rõ ràng
Khá rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
python
Lĩnh vực
ai, devops, infrastructure

Hướng nghiên cứu

Start with the Data Designer settings and Slurm secret-reference handling, then trace where model aliases are resolved and local endpoints are materialized. Follow the job submission path to find where GPU requests, serving images, and container processes are added. Done means local-only, mixed-provider, and hosted-only CPU runs work while credential handling, retries, resumption, and existing async, sharding, and collection behavior remain intact.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

DD Slurm currently requires a local vLLM deployment for every Data Designer model alias and rewrites every alias to a managed endpoint. This prevents recipes that combine a local generator with a hosted judge. Hosted-only recipes also cannot run as CPU jobs.

Proposed scope:

  • Declare external providers using Data Designer provider settings and Slurm secret references.
  • Require every alias to resolve to either a local deployment or an explicitly declared external provider.
  • Preserve external model settings while materializing only local endpoints.
  • Allow hosted-only client jobs without GPU requests, serving images, or container processes.
  • Retain the existing async engine, sharding, retry, and collection behavior.

Validation covers local-only compatibility, mixed providers, hosted-only CPU execution, credential handling, and retry/resume. Automatic splitting of recipe stages is outside this change.

Ngôn ngữ chính
Python
Star
2.4k
Fork
234
Merge trung bình
23 giờ
Pull request đã merge (30 ngày)
75

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của NVIDIA-NeMo/DataDesigner

Tất cả issue của NVIDIA-NeMo/DataDesigner

Issue tương tự

Thêm issue về Python

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.