求助帖

抱一丝，求助有没有友友做过Tensorrt的加速的？有一些流程上的问题自己不是很理解。
全部评论
大概就是 使用tensorrt加速推理的时候 节省的推理时间 还比不上 CPU GPU之间互相拷贝数据的时间。简单来说，推理那一步确实快了，但算上数据拷贝的话，实际推理的时间反而多了！
点赞 回复 分享
发布于 2023-12-21 20:24 江苏
是用的python写的 难道使用了tensorrt最后实际效果反而是慢了 我情感上接受不了啊
点赞 回复 分享
发布于 2023-12-21 20:24 江苏
你不会百度吗😼
点赞 回复 分享
发布于 2023-12-22 19:07 江苏

相关推荐

11-16 13:10
已编辑
电子科技大学 C++
Momenta C++实习 面经
投递渠道：boss timeline： 2024.10.29 投递 2024.10.30 一面 2024.11.01 二面 2024.11.04 oc 2024.11.05 offer 已接 一面 自我介绍 最有成就感的项目 项目细节 锁有哪些 互斥锁 vs 自旋锁 无锁队列怎么实现 什么是原子操作，i++ 是不是原子操作，为什么 用户态和内核态 Linux 进程和线程的区别 手撕：写一个类模板，实现堆上的二维数组，要求内存必须连续 反问 10 分钟后打电话约二面 二面 自我介绍 能实习多久 C++ 学习路径 为什么学 C++ 其他方面的学习呢 Lambda 表达式有什么好处 你一般...
查看24道真题和解析
点赞 评论 收藏
分享
11-14 22:52
广东工业大学 C++
方向选择
投票
4399 芯片软件开发C++ n+1 - n+5（实习之后确定）
点赞 评论 收藏
分享
11-12 15:05
已编辑
门头沟学院 C++
点赞 评论 收藏
分享
11-21 11:30
电子科技大学 Java
点赞 评论 收藏
分享
11-06 13:06
已编辑
门头沟学院 算法工程师
二选一
投票
目前手上已经有offer了，但都是和AI无关的开发岗，个人更偏向和AI有关联的岗位，所以找了两个实习打算到时候转正或者春招再试试。华测导航：这个岗位是某博导找到我的，他有些想法需要用到深度学习相关的内容，希望我帮他做相关的研究，给我华测导航的实习offer。我担心只是白嫖我六个月，最后如果该研究项目进展不顺或者其他原因项目结束了就直接把我踢掉了。优点：平台可以，能转正的话工资高，岗位是算法岗（个人比较倾向算法）芯动科技：ai软件栈开发业务和大模型部署相关的，从算子库的开发到最后部署到公司的gpu上全链条都包括，可以让我选其中一个环节作为实习工作（暂定的算子开发）。实习满六个月可转正
投递芯动科技等公司10个岗位
点赞 评论 收藏
分享
评论
1
收藏
分享

全站热榜

正在热议
# 25届秋招总结 #
582382次浏览 5956人参与
# 简历被挂麻了，求建议 #
2614463次浏览 34095人参与
# 百融云创开奖 #
70125次浏览 707人参与
# 被同事甩锅了怎么办 #
6845次浏览 60人参与
# 机械人与华为的爱恨情仇 #
76423次浏览 697人参与
# 你都收到了哪些公司的感谢信？ #
3667412次浏览 32135人参与
# 大家都开始春招面试了吗 #
440444次浏览 5454人参与
# 如何确定求职岗位 #
376137次浏览 4840人参与
# AI了，我在打一种很新的工 #
22357次浏览 450人参与
# 你觉得实习只能是打杂吗？ #
83773次浏览 597人参与
# 参加完秋招的机械人，还参加春招吗？ #
21591次浏览 245人参与
# 牛客帮帮团来啦！有问必答 #
2416555次浏览 24902人参与
# 机械制造笔面经 #
2058642次浏览 30177人参与
# 当下环境，你会继续卷互联网，还是看其他行业机会 #
43754次浏览 371人参与
# 国央企薪资爆料 #
35920次浏览 266人参与
# 创作灵感 #
88163次浏览 1422人参与
# 入职以后才知道的校招谎言 #
47764次浏览 238人参与
# 投了多少份简历才上岸 #
200838次浏览 2378人参与
# 大厂无回复，继续等待还是奔赴小厂 #
57384次浏览 361人参与
# 通信/硬件秋招总结 #
64430次浏览 637人参与
# 我的求职思考 #
4351099次浏览 58392人参与
牛客网
牛客企业服务