求助帖
抱一丝,求助有没有友友做过Tensorrt的加速的?有一些流程上的问题自己不是很理解。
全部评论
大概就是 使用tensorrt加速推理的时候 节省的推理时间 还比不上 CPU GPU之间互相拷贝数据的时间。简单来说,推理那一步确实快了,但算上数据拷贝的话,实际推理的时间反而多了!
是用的python写的 难道使用了tensorrt最后实际效果反而是慢了 我情感上接受不了啊
你不会百度吗😼
相关推荐
点赞 评论 收藏
分享
查看24道真题和解析
点赞 评论 收藏
分享
投票
投递芯动科技等公司10个岗位
点赞 评论 收藏
分享