help wanted
Repository-Metriken
- Stars
- (11.414 Stars)
- PR-Merge-Metriken
- (Durchschn. Merge 2T 3h) (1 gemergte PR in 30 T)
Beschreibung
业务需求中存在回调函数,数据源来源回调函数,因此需要把模型初始化放在主函数,推理部分通过传参进入回调函数进行推理,这样做代码可以跑,但是无法调用GPU,把推理函数放到主函数内推理就可以调用GPU,因此不知道如何解决在回调函数内进行推理无法调用GPU的问题如何解决?