Choose the model and effort per stage in lexvm generate

Đang mở
  • Có gì không ổn?
#44 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Chưa có ai nhận issue này.

Đánh giá

Độ khó
4/5
Thời gian dự kiến
3-5 ngày
Mức phù hợp với người mới
48/100
Loại issue
Tính năng
Độ rõ ràng
Đặc tả rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
typescript
Lĩnh vực
backend, cli

Hướng nghiên cứu

Start with packages/cli/src/generate/index.ts, llm.ts, and pipeline.ts to trace how model and effort options reach each stage; then read docs/authoring/pipeline.md. Add per-stage option and environment variable handling with global fallbacks, and check the fake LLM tests for stage selection and prompt caching. Done means the acceptance criteria pass and the docs describe recommended hybrid settings without hardcoded model IDs.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

area: cli area: pipeline priority: medium type: feature

Context

The generation stages differ in what they demand. Concept and puzzle dependency chart need the strongest design judgment but few tokens; world, logic and repair stages produce most of the tokens and are checked by the verifier. Today lexvm generate uses one model for every stage. A hybrid (largest model for design, smallest capable model at high effort for writing and repair) should cut cost by an order of magnitude at similar quality, but needs per-stage configuration.

Scope

  • Options --model-design, --model-write, --model-repair (and matching --effort-*), falling back to --model / LEXVM_MODEL and --effort; equivalent environment variables.
  • No model ids hardcoded in the repository (existing rule); docs describe tiers, not ids.
  • design/run.json records per stage which option slot was used and token usage, without model ids (existing provenance rule).
  • Docs: recommended configurations by pack length, and the note that small models default to a lower effort and should run at high for writing and repair.

Acceptance criteria

  • Each stage uses the model and effort from its slot, verified with a fake LLM in tests.
  • Missing slot options fall back to the global options; missing global model still exits 2 with guidance.
  • Prompt caching still works within a stage group.
  • docs/authoring/pipeline.md documents the slots and a recommended hybrid configuration.

References

  • packages/cli/src/generate/index.ts
  • packages/cli/src/generate/llm.ts
  • packages/cli/src/generate/pipeline.ts
  • docs/authoring/pipeline.md
Ngôn ngữ chính
TypeScript
Star
0
Fork
0
Merge trung bình
1 giờ 24 phút
Pull request đã merge (30 ngày)
5

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của nullthrone/lexvm

Tất cả issue của nullthrone/lexvm

Issue tương tự

Thêm issue về TypeScript

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.