Any plans to add AutoGPTQ as a gptq load option?

仓库指标

星标

38,959 个星标 (38,959 个星标)

PR 合并指标

PR 指标待抓取 (PR 指标待抓取)

描述

贡献者指南

研究方向

检查 FastChat 代码库，了解模型加载选项的定义方式，特别是在模型加载模块中。参考 AutoGPTQ 库（https://github.com/PanQiWei/AutoGPTQ）和 text generation webui 中的示例实现（issue 中已链接）。调查是否存在量化方法的现有集成模式。考虑创建一个类似于现有加载器的新加载器类，并使用本地模型进行测试。

技术栈

python

领域

backend

议题类型

功能

难度面向新贡献者的预计实现难度，1 表示很小改动，5 表示专家级工作。

2

预计时间有经验贡献者完成调查、实现、测试并准备 pull request 的粗略时间范围。

1-3 小时

活动状态议题当前的可参与程度：新鲜、活跃、陈旧、阻塞或等待维护者输入。

活跃

清晰度议题是否清楚说明期望改动、验收标准和下一步。

清晰

前置要求

PythonGit

新手友好度1-100 的估计分数，表示该议题对首次贡献者的友好程度。

75