chore!: Automate data model generation from upcoming CycloneDX 2.0 modularized specification
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 5/5
- Thời gian dự kiến
- Hơn một tuần
- Mức phù hợp với người mới
- 25/100
- Loại issue
- Tái cấu trúc
- Độ rõ ràng
- Cần làm rõ
- Mức độ hoạt động
- Ít trao đổi
- Công nghệ
- python
- Lĩnh vực
- build-system, tooling
Hướng nghiên cứu
Bắt đầu với schema CycloneDX 2.0 trong schema/2.0/model và xem xét các công cụ sinh mã được nêu tên cùng phần công việc proof-of-concept. Xác định cách tiền xử lý, sinh mã, hậu xử lý và đầu ra đã commit phù hợp với quy trình build hoặc release của dự án. Done bao gồm các model xác định, tài liệu và ví dụ được cập nhật, các bài kiểm thử schema và enum, cùng hướng dẫn chuyển tiếp hoặc các hạn chế khi di chuyển được ghi lại.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Description
Currently, the data models in this library are largely written and maintained manually. While this approach has worked so far, it is time-consuming and requires significant effort for both implementation and review. This effort could be better invested in feature development and bug fixing. (Also the issue is that the models code also implement the business logic, like property constraints, etc.)
With the upcoming CycloneDX 2.0 specification, a modularized and machine-readable format will be introduced. This presents an opportunity to rethink how data models are created and maintained in this project.
Reference (work in progress):
- PR https://github.com/CycloneDX/cyclonedx-python-lib/issues
- modularized schema https://github.com/CycloneDX/specification/tree/2.0-dev/schema/2.0/model
Problem
- Data models are mostly handwritten and mix in the business logic
- High maintenance overhead
- Repetitive work for contributors
- Slows down development velocity due to review effort
Proposal
Leverage the machine-readable specification planned for CycloneDX 2.0 to introduce static code generation for data models (not business logic).
This would involve:
- Parsing the official CycloneDX specification (once available in machine-readable form)
- Generating Python data models automatically
- Integrating generation into the build or release process
- Minimizing manual intervention for future spec updates
There have already been proof-of-concept implementations demonstrating that automated generation of data models from the specification is feasible. These approaches should be revisited, consolidated, and applied as part of this effort.
Pipeline:
flowchart TB
A["Input: CycloneDX JSON Schema files"]
B["Preprocessing (if needed)"]
C["Code Generation"]
D["Post-processing: formatting, code style, adjustments"]
subgraph E["Result: Generated Python code"]
direction LR
E1["Data Models"]
E2["Factories"]
E3["Serialization-specific Normalizers"]
end
A --> B --> C --> D --> E
Philosophy: decouple logic fro mdata
- Models are pure dumb typed data classes.
- Factories implement business logic for instancing data classes with the propeties' constrinats defined in the schema
- normalizers turn data classes into objects that can be handed over to serializers
- serializers take prepared objects and render XML/JSON/PB
possible file layput in the distributable:
Core
V1
v2
Models
Cyclonedx
Modules
Common
Normalizers
Serializes
Possible Tools / Libraries
The following tools could be evaluated as part of this effort:
-
datamodel-code-generator — MIT
https://pypi.org/project/datamodel-code-generator/ -
pydantic — MIT
https://pypi.org/project/pydantic/ -
dataclasses-json — MIT
https://pypi.org/project/dataclasses-json/ -
dacite — MIT
https://pypi.org/project/dacite/ -
marshmallow — MIT
https://pypi.org/project/marshmallow/ -
marshmallow-jsonschema — MIT
https://pypi.org/project/marshmallow-jsonschema/ -
jsonschema (validation, not models) — MIT
https://pypi.org/project/jsonschema/ -
quicktype — Apache 2.0
https://pypi.org/project/quicktype/ -
genson (schema generator, reverse direction) — MIT
https://pypi.org/project/genson/
Community Input
Community discussions have already suggested evaluating tools such as:
- datamodel-code-generator
- json-schema-to-pydantic (https://pypi.org/project/json-schema-to-pydantic/)
- jambo (https://pypi.org/project/jambo/)
and
- de/serialization with cattrs (https://pypi.org/project/cattrs/)
These should be considered as primary candidates during evaluation.
see discussions:
Expected Benefits
- Significant reduction in maintenance effort
- Improved consistency across models
- Faster adoption of new specification versions
- More time available for feature development and bug fixing
Considerations / Open Questions
- What format will the machine-readable spec be published in (e.g., JSON Schema, OpenAPI, etc.)?
- JSON Schema it is
- Should generated code be committed or generated at build time?
- decision: generated before build time, and commited to the repo
- How to handle custom logic or extensions on top of generated models?
- Backward compatibility with CycloneDX 1.x
- easy path: breaking change in the library, and only support 2.0 from then on
Additional Context
This proposal aligns with the direction of CycloneDX 2.0, which aims to make the specification more modular and tooling-friendly. Taking advantage of this early could significantly improve long-term maintainability of this library.
Note: This issue is intended as a meta-ticket to collect related sub-tasks and track overall implementation efforts.
Checklist
- have the models created in a deterministic way from schema
- generate the docs
- have examples updated
- have tests
- test with all schema test cases
- tests all enum completeness
- write a transition guide in the docs
- section "Upgrading to vXXX"
- we might not be able to provide a proper guide at all, since basically everything is rewrite.
- we might point to the github discussions - section FAQ - to pride at least some help
- Ngôn ngữ chính
- Python
- Star
- 117
- Fork
- 67
- Merge trung bình
- 21 giờ 9 phút
- Pull request đã merge (30 ngày)
- 3
Chuẩn bị môi trường
- Không có Dockerfile hay tệp Docker Compose
- Có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của CycloneDX/cyclonedx-python-lib
-
[PERF] Quadratic (O(N^2)) serialization time for large BOMs — `Bom.validate()` → `register_dependency()` linear scanCó thể đã có người làm @inspired-geek đã nhận 113 ngày trước. Đang mởperformance
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 36/100
CycloneDX/cyclonedx-python-lib#1006 · 2 bình luận ·
-
tests: test all model enumsCó thể làm lại được @jkowalleck đã nhận 128 ngày trước và không có pull request nào đang mở. Đang mởQA
CycloneDX/cyclonedx-python-lib#991 · 1 người được giao ·
-
feat(deps)!: make all de/serialization libraries optionalCó thể làm lại được @Simoh23999 đã nhận 76 ngày trước và không có pull request nào đang mở. Đang mởbreaking change dependencies
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100
CycloneDX/cyclonedx-python-lib#979 · 2 bình luận ·
-
feat: Add support for Component signatureCó thể đã có người làm @wiebe-vandendriessche đã nhận 127 ngày trước. Đang mởenhancement help wanted schema 1.4
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 58/100
CycloneDX/cyclonedx-python-lib#978 · 4 bình luận ·
-
chore: have coverage uploaded consitentlyCó thể làm lại được @jkowalleck đã nhận 175 ngày trước và không có pull request nào đang mở. Đang mởchore
CycloneDX/cyclonedx-python-lib#966 · 1 người được giao ·
Tất cả issue của CycloneDX/cyclonedx-python-lib
Issue tương tự
-
documentation pkg: sphinx-needs
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 82/100
useblocks/sphinx-needs#2255 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 60/100
home-assistant/core#186538 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
btclib-org/btclib-secp256k1#1181 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
pyrite-wiki/pyrite#917 ·
Maintainer thường phản hồi trong vòng 1 ngày