大概就是 使用tensorrt加速推理的时候 节省的推理时间 还比不上 CPU GPU之间互相拷贝数据的时间。简单来说,推理那一步确实快了,但算上数据拷贝的话,实际推理的时间反而多了!
点赞 评论

相关推荐

4399 芯片软件开发C++ n+1 - n+5(实习之后确定)
点赞 评论 收藏
分享
牛客网
牛客企业服务