对CUDA和AI推理优化等AI工程类工作的疑问

在牛客逛了很久，发现很多同学对这类岗位的认识不太足，加上这类工作主要还是在工业界进行，因为涉及到具体模型落地，在学校很难接触到这一块，只有些许少数几个老师会做这方面，所以导致了这一块岗位对多数同学像一个blackbox。
我作为一个几年前的校招生，当初也是一样儿的处境，大家如果对这块感兴趣并且想了解的话，可以私我，一两个问题没事，多了那就...不好意思了...
全部评论
您好，想问问目前只会C++和写比较简单的CUDA kernel算子的基础上，想做AI框架优化相关，应该从哪里入手开始补深度学习的知识，并且要补到什么程度才够用呢？
2 回复 分享
发布于 06-06 15:36 四川
啊想问一下CUDA这种咋学的呢，接下来实习要用到，但是我懂0个
1 回复 分享
发布于 06-05 14:51 上海
自学可行吗
1 回复 分享
发布于 06-06 14:31 黑龙江
大模型训练和推理哪个前景更好些？
点赞 回复 分享
发布于 06-07 14:33 北京
大三学生，想投日常实习。对AI工程类超级感兴趣，但是不太知道具体有什么细分方向，有哪些比较有前景的，推理部署？框架开发？目前有深度学习和ACM竞赛基础，拿过昇腾方向比赛的全球一等奖（普通的AI应用训练到推理），还需要补充什么知识才能找到对应实习，有学习路径吗？图是在华为ICT部门找到的对应岗位要求。 问题有点多，麻烦了，不知道向什么方向努力😣
点赞 回复 分享
发布于 06-17 00:30 新疆
想问下推理优化的技术栈需要什么（cuda、tvm？），校招更看论文、项目 or 实习？岗位多吗
点赞 回复 分享
发布于 07-01 13:48 北京
现在去了解训练框架和推理框架哪一个更好一些呢？
点赞 回复 分享
发布于 07-03 08:13 天津
对 GPU 比较熟悉，但是没有模型推理优化的实战经历。那么只看推理的八股的话，请问秋招有机会拿到推理岗位的 offer 嘛？bg 是华五硕。
点赞 回复 分享
发布于 07-28 12:09 上海
这行hc多吗
点赞 回复 分享
发布于 10-08 09:14 浙江
项目的话要达到什么程度的项目呢？这类工作面试需要准备什么类型的八股和编程训练呢？
点赞 回复 分享
发布于 10-12 16:38 广东

相关推荐

11-04 10:37
已编辑
山东大学 C++
小鹏感谢信
高性能计算优化工程师（北京），部门主要做车上模型的优化，包括算子还有pipeline之类的 timeline10.24 一面 约的比较晚，应该是前面的大佬拒了10.28 二面前两面的感觉不错，问问项目，问问八股+手撕但是明显感觉比其他厂问的更深，不管是项目还是八股10.31 三面 依然是技术面，继续深挖项目，有些压力面的感觉，被问的有些发毛了，没抓住要点，面试官嫌我啰嗦又没讲到他想听的。然后手撕多少也受了些情绪影响，没写好11.1 感谢信😓感觉挺遗憾的，虽然听说给的不是很高，但是能感觉部门的技术还是很专业的。另外三次面试对方都没开摄像头，可能这是传统吧总体上比较看重项目，cpu，...
查看7道真题和解析 我的失利项目复盘
点赞 评论 收藏
分享
11-14 19:00
北京联合大学 机器学习
点赞 评论 收藏
分享
头像 会员标识
11-23 13:23
西安电子科技大学 机器学习
点赞 评论 收藏
分享
11-06 11:32
复旦大学 C++
点赞 评论 收藏
分享
头像 会员标识
11-23 13:18
西安电子科技大学 机器学习
小米汽车 深度学习训练框架优化面经
一面 实习主要工作介绍； 千卡训练项目介绍； 竞赛项目介绍； 手撕：反转矩阵； 技术规划； 有什么其他offer； python深拷贝和浅拷贝区别； CPP的三种智能指针和用法； 写时拷贝原理 零拷贝原理 二面 大模型分布式训练的流程、并行策略考虑； 各种并行策略介绍； TP为什么有按行/列两种； 按行/列对应的是什么； Megatron-SP介绍， Transformer架构，有那些层、算子； encoder和incoder介绍，特点； FlashAttention介绍； online softmax介绍； block是软件还是硬件的； CUDA有哪些优化方法； 访存优化方法有哪些；...
查看31道真题和解析
点赞 评论 收藏
分享
6 15 评论
分享

全站热榜

正在热议
# 25届秋招总结 #
279352次浏览 2420人参与
# 如果实习可以转正，你会不会放弃秋招 #
206120次浏览 2807人参与
# 北方华创开奖 #
24562次浏览 263人参与
# 地方国企笔面经互助 #
3274次浏览 7人参与
# 学历or实习经历，哪个更重要 #
47505次浏览 368人参与
# 选完offer后，你后悔学本专业吗 #
16734次浏览 120人参与
# 如何一边实习一边秋招 #
989202次浏览 12623人参与
# 软开人，秋招你打算投哪些公司呢 #
41681次浏览 534人参与
# 数据人的面试交流地 #
436352次浏览 7812人参与
# 0offer是寒冬太冷还是我太菜 #
892981次浏览 7966人参与
# 得物求职进展汇总 #
64914次浏览 674人参与
# 求职遇到的搞笑事件 #
69021次浏览 571人参与
# 你觉得专业和学校哪个对薪资影响最大 #
28945次浏览 215人参与
# 查收我的offer竞争力报告 #
21294次浏览 263人参与
# 你最想要的公司福利是？ #
43510次浏览 161人参与
# 没有实习经历，还有机会进大厂吗 #
809069次浏览 13886人参与
# 来聊聊机械薪资天花板是哪家 #
67514次浏览 460人参与
# 当你面对裁员会如何？ #
26532次浏览 156人参与
# 一觉醒来，我觉醒了超级打工人系统 #
3647次浏览 38人参与
# 应届生被毁约被毁意向了怎么办 #
28855次浏览 247人参与
# 面试体验感最好的是哪家？ #
84202次浏览 822人参与
牛客网
牛客企业服务