lm-sys/FastChat

Any plans to add AutoGPTQ as a gptq load option?

Open

#1,671 创建于 2023年6月12日

在 GitHub 查看
 (1 评论) (0 反应) (0 负责人)Python (4,736 fork)batch import
good first issue

仓库指标

Star
 (38,959 star)
PR 合并指标
 (30 天内没有已合并 PR)

描述

See: https://github.com/PanQiWei/AutoGPTQ/

For reference, text gen ui is using it here: https://github.com/oobabooga/text-generation-webui/blob/main/modules/AutoGPTQ_loader.py

贡献者指南

研究方向
检查 FastChat 代码库，了解模型加载选项的定义方式，特别是在模型加载模块中。参考 AutoGPTQ 库（https://github.com/PanQiWei/AutoGPTQ）和 text generation webui 中的示例实现（issue 中已链接）。调查是否存在量化方法的现有集成模式。考虑创建一个类似于现有加载器的新加载器类，并使用本地模型进行测试。
技术栈
python
领域
backend
议题类型
功能
难度面向新贡献者的预计实现难度，1 表示很小改动，5 表示专家级工作。
2
预计时间有经验贡献者完成调查、实现、测试并准备 pull request 的粗略时间范围。
1-3 小时
活动状态议题当前的可参与程度：新鲜、活跃、陈旧、阻塞或等待维护者输入。
活跃
清晰度议题是否清楚说明期望改动、验收标准和下一步。
清晰
前置要求
PythonGit
新手友好度1-100 的估计分数，表示该议题对首次贡献者的友好程度。
75