Quantization ladder, GGUF export, HF release, model manifest
维护者通常 1 天内回复
还没有人认领这个 Issue。
评估
- 难度
- 5/5
- 预计耗时
- 一周以上
- 新手友好度
- 35/100
- Issue 类型
- 功能
- 描述清晰度
- 基本清楚
- 活跃度
- 活跃
- 技术栈
- huggingface
调研方向
Resolve dependency #75, then start with convert_hf_to_gguf.py and the test-set evaluation workflow. Produce RESULTS.md, MODEL_CARD.md, and models/manifest.json covering the listed quantizations, grammar modes, scores, hashes, sizes, and RAM requirements; verify the manifest hashes through the CI check and publish the evidence.
由索引模型根据 Issue 内容生成。
描述
Part of the JobTrail v2 rebuild · design doc · all drafts · draft #15
Depends on: #75
Scope
-
Convert to GGUF (
convert_hf_to_gguf.py) and quantize: F16, Q8_0, Q6_K, Q4_K_M, Q4_0. -
Evaluate each on test set, grammar on/off.
-
Publish to HF Hub with
MODEL_CARD.md(intended use, eval results by slice, limitations, failure taxonomy). -
models/manifest.json: id, display name, URL, sha256, size, quant, min RAM, test-set scores — consumed by mobile (#79) and web (#89).
Acceptance criteria
-
Accuracy vs size vs quant table in
RESULTS.md. -
sha256s in manifest match published files (CI check that fetches HEAD/size).
Definition of done (all issues)
Definition of done (every issue):
-
Acceptance criteria met with evidence linked in the closing comment (test run, results JSON, screenshot/recording).
-
needs-deviceissues: benchmark JSON + short screen recording from the named device committed underevidence/<issue#>/. -
No claim in README/docs that isn't backed by a committed artifact.
-
CI green.
Device shorthand: Note 9S = Redmi Note 9S 6 GB (Snapdragon 720G, CPU-only), the minimum-spec device. iPhone = iPhone 16 Pro.
Budget rule: free tiers first (Gemini API free tier, Kaggle/Colab free GPUs, HF Hub, Vercel Hobby). Any script calling a cloud model must throttle to free-tier limits, checkpoint/resume, and log token usage. Paid spend only with owner approval, capped at a few dollars.
- 主要语言
- Python
- 星标
- 0
- 派生
- 0
- 平均合并
- 2 天 20 小时
- 30 天内合并 PR
- 32
环境准备
- 没有 Dockerfile 或 Docker Compose 文件
- 有 Pull Request 模板
- 没有贡献指南
从这里开始
- 先读完整个 Issue，再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库，在一个分支上完成修改。
- 提交 Pull Request，并在描述里引用这个 Issue 编号。
Taleef7/JobTrail 的其他 Issue
-
area:docs
难度 4/5 3-5 天 新手友好度 48/100
维护者通常 1 天内回复
-
area:data type:eval
难度 4/5 3-5 天 新手友好度 45/100
维护者通常 1 天内回复
-
area:mobile type:eval
难度 4/5 一周以上 新手友好度 45/100
维护者通常 1 天内回复
-
area:docs area:web
难度 4/5 3-5 天 新手友好度 45/100
维护者通常 1 天内回复
-
area:web type:feature
难度 5/5 一周以上 新手友好度 35/100
维护者通常 1 天内回复
相似的 Issue
-
难度 2/5 1-3 小时 新手友好度 76/100
Graphify-Labs/graphify#4860 · 1 条评论 ·
维护者通常 1 天内回复
-
:bug: Bug
难度 2/5 1-3 小时 新手友好度 84/100
scikit-image/scikit-image#8377 ·
维护者通常 1 天内回复
-
Ingredient import validation accepts negative nutrient values and NaN可能已有人在做 @LukeSekai 今天认领。 未关闭
难度 2/5 1-3 小时 新手友好度 82/100
wger-project/wger#2564 ·
维护者通常 2 天内回复
-
难度 2/5 1-3 小时 新手友好度 68/100
apache/ponymail-foal#351 ·
-
难度 1/5 1 小时以内 新手友好度 68/100
维护者通常 4 天内回复