大模型预训练面经(五）

1.上来先手撕，撕的最小路径和。实现之后让我用动态规划实现一遍，问状态方程，然后又问时间复杂度以及为什么。2.问对架构的理解,arm,gpu这些架构了解多少3.对原子操作的理解4.vector和list区别5.vector怎么动态扩容6.线程间通信方式有哪些7.为什么要用cache，从原理以及缓存命中等角度考虑。8.说一下常用的Linux调试工具9.top命令一般展示什么10.Linux有哪些调度方式，cfs的调度原理11.neon了解嘛12.了解哪些opencv算法，说一下常见的算子13.问了一些科学计算库了解嘛

1. 自我介绍与项目介绍3. cuda bank conflict4. cuda softmax5. online softmax与flash attention6. 大模型的端侧部署7. 模型导出的动态维度问题8. 对感知规划控制算法的了解9. 量化相关10. 多线程，openmp，mpi11. ncnn交叉编译12. ncnn源码懂多少技术面就一面，后面约了线下终面，懒得折腾，不占坑位了，拒掉了。#高性能计算##高性能计算面经#

网上刷到的说学历不好，尽量把教育背景放在简历的最底下真的有用吗？

没想到居然给过了？？？！！！今天下午HR电话联系发了二面-----------------10.21 更新-----------------结果：挂了，但整体面试体验很好（除了公司难蚌的网络）先自我介绍，不过网络卡顿比较严重，面试官中途一直没怎么听清，断断续续的，本来先拷打项目的，就直接进coding环节了一共两道手撕：1）实现softmax，秒撕，但是公式记错了（跟之前科研做OoD Detection时候的写的softmax变式记混了），自己也觉得有问题但就是没发现在哪儿，寄 2）给定一个单调递增数组，且满足大小关系：2 * a[i-1] < a[i]，判断是否存在两数之和为k，要求O(logn)时间复杂度和O(1)空间复杂度。在面试官逐步引导之下做出来了，还让手撕了lower_bound和upper_bound手撕感觉寄的差不多之后，又开始结合项目拷打八股（其实就是挑项目里的点问八股，不关注项目本身），深挖了LoRA的原理和细节（只是用过没有深入了解细节，被挖出来了）为什么DeCoder Only是目前大模型的主流，有什么考量和优势在？为什么ResNet没有像transformer结构上不断地堆参数规模？总体来说，面试专业度挺满意的，感觉比理想一面（还搞KPI）和宁德时代好太多。最近忙着搞开题和实习，很久没看八股了，最近不少面试被问到准备过的感觉都答得一般，得再抓一手了。 #你都收到了哪些公司的感谢信？#  #小鹏汽车#  #秋招#  #算法工程师#