求助帖

抱一丝,求助有没有友友做过Tensorrt的加速的?有一些流程上的问题自己不是很理解。
全部评论
大概就是 使用tensorrt加速推理的时候 节省的推理时间 还比不上 CPU GPU之间互相拷贝数据的时间。简单来说,推理那一步确实快了,但算上数据拷贝的话,实际推理的时间反而多了!
点赞 回复 分享
发布于 2023-12-21 20:24 江苏
是用的python写的 难道使用了tensorrt最后实际效果反而是慢了 我情感上接受不了啊
点赞 回复 分享
发布于 2023-12-21 20:24 江苏
你不会百度吗😼
点赞 回复 分享
发布于 2023-12-22 19:07 江苏

相关推荐

评论
1
收藏
分享
牛客网
牛客企业服务