unslothai/unsloth

NEFTune - check if it functions correctly - `neftune_post_forward_hook` removed from trl

已关闭

#1,078 创建于 2024年9月30日

在 GitHub 查看贡献者指南
 (13 条评论) (0 个反应) (0 位负责人)Python (5,658 个派生)batch import
good first issue

仓库指标

星标
 (64,271 个星标)
PR 合并指标
 (平均合并 3天 15小时) (30 天内合并 525 个 PR)

描述

Hi unsloth,

FYI, neftune_post_forward_hook has been removed from trl in https://github.com/huggingface/trl/pull/1841

cc @lewtun @kashif

贡献者指南

研究方向
调查 trl 拉取请求 #1841，该请求移除了 `neftune post forward hook`。检查 unsloth 代码库中对此钩子的使用情况，特别是在与 NEFTune 相关的文件中。确定 unsloth 的 NEFTune 功能是否已损坏或需要调整。查看该议题中的评论，以获取来自维护者（如 @lewtun 和 @kashif）的额外上下文。如果 unsloth 的实现依赖于被移除的钩子，建议修复方案，例如采用替代方法或更新以匹配 trl 的新设计。
技术栈
pythonpytorch
领域
machine learning
议题类型
缺陷
难度面向新贡献者的预计实现难度，1 表示很小改动，5 表示专家级工作。
3
预计时间有经验贡献者完成调查、实现、测试并准备 pull request 的粗略时间范围。
半天
活动状态议题当前的可参与程度：新鲜、活跃、陈旧、阻塞或等待维护者输入。
活跃
清晰度议题是否清楚说明期望改动、验收标准和下一步。
基本清晰
前置要求
basic understanding of NEFTunefamiliarity with trl library
新手友好度1-100 的估计分数，表示该议题对首次贡献者的友好程度。
50