5.8 二面简单自我介绍先问了下adam优化器的算法公式，有点忘了糊弄了一下😢然后让我详细介绍项目扯了10min让我讲一些数学求导原理（项目相关）扯下一个项目场景优化题attention块中可以优化哪些地方qkv 矩阵乘优化，kvcache引入后，qkT变成gemm和gemv两种优化softmax似乎也有优化手段，但我答错了面试官让我回去看看flash attention怎么做的问我还会把些优化技术 循环展开问实现原理，考虑读写顺序时该怎么办内存对齐继续问原理，这里面试官说了自己的理解常量折叠，比较简单让我说下一个SOD（struct of data），DOS的使用继续问怎么用，原理，面试官还是觉得我说的不到位，补充了自己的理解。（我猜到他什么意思了，但我觉得我说的没问题）总结有点寄，五天了还没消息，许愿一个offer😢

面试自我介绍项目介绍1. img2col 的原理2. RMSnorm的计算过程3. reduce的计算流程4. SIMD 是只能对fp32的算子使用吗（因为我没讲清楚）5. effective transformer的好处，怎么加速的（没答太对）6. embedding 和 building casual mask 怎么加速的7. casual mask 有什么作用8. 大模型推理的过程， 输出是什么， 下一次是怎么输出的。（没答的很满意）9. 对移动端推理加速的理解10. 一道力扣mid 里的简单题 搜索二维矩阵11. 说出几种思路，这么做的理由。面试官人特别好，特别耐心，希望有二面。