help wanted
説明
业务需求中存在回调函数,数据源来源回调函数,因此需要把模型初始化放在主函数,推理部分通过传参进入回调函数进行推理,这样做代码可以跑,但是无法调用GPU,把推理函数放到主函数内推理就可以调用GPU,因此不知道如何解决在回调函数内进行推理无法调用GPU的问题如何解决?
业务需求中存在回调函数,数据源来源回调函数,因此需要把模型初始化放在主函数,推理部分通过传参进入回调函数进行推理,这样做代码可以跑,但是无法调用GPU,把推理函数放到主函数内推理就可以调用GPU,因此不知道如何解决在回调函数内进行推理无法调用GPU的问题如何解决?