在python中并行运行多个ONNX模型进行推理

问题描述

无论如何可以并行运行多个 ONNX 模型并使用多个可用内核。 我目前已经训练了两个 ONNX 模型并想使用它们进行推断。我使用了 python 的线程,但这并没有真正使用多核。 之后,我尝试了多处理,但这给了我以下错误

can't pickle onnxruntime.capi.onnxruntime_pybind11_state.Sessionoptions objects

请告诉我是否有任何解决方法

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)

相关问答

Selenium Web驱动程序和Java。元素在(x,y)点处不可单击。其...
Python-如何使用点“。” 访问字典成员?
Java 字符串是不可变的。到底是什么意思?
Java中的“ final”关键字如何工作?(我仍然可以修改对象。...
“loop:”在Java代码中。这是什么,为什么要编译?
java.lang.ClassNotFoundException:sun.jdbc.odbc.JdbcOdbc...