关于训练后的模型文件结构以及使用方式上的疑惑
还没有人认领这个 Issue。
评估
- 难度
- 3/5
- 预计耗时
- 1-2 天
- 新手友好度
- 25/100
- Issue 类型
- 文档
- 描述清晰度
- 需要澄清
- 活跃度
- 停滞
- 技术栈
- python
- 领域
- ai, machine-learning
调研方向
检查附带的两个目录结构，以及教程中使用的 QLoRA 和合并模型加载路径。将它们与原始 qwen-1.8b-chat 的使用方式及其历史记录处理进行比较，然后记录训练后的模型是否可以使用相同的调用代码，以及需要注意哪些加载差异或必需文件。
由索引模型根据 Issue 内容生成。
描述
以上为我qlora之后得到的lora文件以及合并后的文件结构，以下为原始qwen-1.8b-chat文件结构，两者并不完全一致。
由于qwen在modelscope上对chat模型做了特殊的问答代码处理，比如chat模型可以以history保存对话记录，如果我们的模型结构不一致，并且少了部分文件，是否可以用同样的代码调用训练好的模型呢？
- 主要语言
- Python
- 星标
- 2k
- 派生
- 1.5k
- PR 合并指标
- 30 天内没有已合并 PR
贡献指南
这个仓库没有索引到贡献指南
从这里开始
- 先读完整个 Issue，再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库，在一个分支上完成修改。
- 提交 Pull Request，并在描述里引用这个 Issue 编号。
InternLM/Tutorial 的其他 Issue
-
难度 1/5 1 小时以内 新手友好度 85/100
-
难度 1/5 1 小时以内 新手友好度 65/100
-
使用100%A100运行报错 未关闭
难度 4/5 3-5 天 新手友好度 30/100
-
test 未关闭
难度 5/5 一周以上 新手友好度 1/100
-
难度 5/5 一周以上 新手友好度 20/100
查看 InternLM/Tutorial 的全部 Issue
相似的 Issue
-
essnmx good first issue
难度 1/5 1 小时以内 新手友好度 95/100
-
难度 2/5 1-3 小时 新手友好度 65/100
syfoud/Simulated_Scepter#174 ·
-
难度 2/5 1-3 小时 新手友好度 75/100
Giskard-AI/giskard-oss#2840 · 1 条评论 ·
-
A claim comment carrying the issue number is silently declined while the workflow reports success 未关闭area: repo bug perceived difficulty: 2
难度 2/5 1-3 小时 新手友好度 70/100
-
难度 2/5 1-3 小时 新手友好度 75/100
yeti-platform/yeti#1380 ·