因为老是有hr偷看我简历，然后老是搞推理框架和算子优化的，我决定从头学一遍并且总结出来。不搞芯片的不用学，这个吃学历和顶会的。也就是为什么我从一开始没搞这个，但是又收到了中科院和香港实验室之类的邀请。现在学好像有点晚了。。。。算啦，搞一下吧。然后其实你们看到的稿子都是我写剩下的，一般都是写好几篇到点就发的。本文需要先看了上期讲芯片的看了才容易点。那么正式开始吧，本文的话还是按照vllm举例，因为时间有限，我和你们的时间都有限，所以我只讲最简单，最通用的东西，第一点：基本上所有的推理优化都是优化Tensor Cores,第二点：其他的SM架构，cuda cores无法被优化，这个是硬件，vllm...

把我笑死了😂，说得好像我3k去干了，还拉低他工资一样

三个月真的超级快一转眼就过去了 真的还挺享受干到自己相对喜欢的工作的这段时间，每天都过的挺充实的，部门氛围很好，工作的时候都比较严谨，但也很欢乐 而且超级幸运的是一个部门的人都很nice，天天一起吃饭偶尔摸鱼聊天，现在还真的有一点舍不得 公司福利什么的感觉也蛮好的，健身房咖啡机微波炉冰箱什么的都有，每天下午都有下午茶，一般是水果，偶尔会有酸辣粉冰粉薯片辣条什么的，反正是完全饿不着 公司基本上早九晚六午休一小时45分钟（其实是五点四十五下班）不要求加班，偶尔加一加可以换调休，晚上也有宵夜，我在项目里的时候着急出结果会加一两天（我三个月也就加了几天 没有食堂，楼下有重邮食堂，还有一些别的小餐馆，有...