help wanted
仓库指标
- Star
- (11,414 star)
- PR 合并指标
- (30 天内没有已合并 PR)
描述
业务需求中存在回调函数,数据源来源回调函数,因此需要把模型初始化放在主函数,推理部分通过传参进入回调函数进行推理,这样做代码可以跑,但是无法调用GPU,把推理函数放到主函数内推理就可以调用GPU,因此不知道如何解决在回调函数内进行推理无法调用GPU的问题如何解决?
业务需求中存在回调函数,数据源来源回调函数,因此需要把模型初始化放在主函数,推理部分通过传参进入回调函数进行推理,这样做代码可以跑,但是无法调用GPU,把推理函数放到主函数内推理就可以调用GPU,因此不知道如何解决在回调函数内进行推理无法调用GPU的问题如何解决?