中科曙光一二面面经

不是很懂，收到一个面试邀约，说是宁畅信息，我想了半天没想出来我啥时候投过这家公司，后面那边补充了一句，说自己是中科曙光。我确实是投中科曙光了，但是为啥是宁畅这边面试呀，两家具体是个啥关系呢 #牛客创作赏金赛# #远程面试的尴尬瞬间#

一面 实习主要工作介绍； 千卡训练项目介绍； 竞赛项目介绍； 手撕：反转矩阵； 技术规划； 有什么其他offer； python深拷贝和浅拷贝区别； CPP的三种智能指针和用法； 写时拷贝原理 零拷贝原理 二面 大模型分布式训练的流程、并行策略考虑； 各种并行策略介绍； TP为什么有按行/列两种； 按行/列对应的是什么； Megatron-SP介绍， Transformer架构，有那些层、算子； encoder和incoder介绍，特点； FlashAttention介绍； online softmax介绍； block是软件还是硬件的； CUDA有哪些优化方法； 访存优化方法有哪些；...

周一投完这周共5个面试 面完3个 时间冲突放弃1个 周五还剩1个力扣和数据结构没怎么刷先上战场了 面试中目前失败一个（写了65%）研一下到现在学了半年CUDA和TensorRT构建推理引擎 各类模型的高性能算子和高性能推理还缺乏实践 更深的TVM，分布式的deepseed和汇编没时间了 现在迷茫了 要学的很多且可能学完依旧找不到 #高性能计算#  #高性能计算面经#  #HPC高性能计算工程师#

10月24日 35 分钟自我介绍实习经历拷打细节遇到过什么 bug项目经历接触过 LLVM 吗->写过 Pass吗->大致怎么实现一个 PassCUDA GPU 架构懂吗（不大懂）pytorch 熟悉吗->pytorch 和 tensorfow 有什么区别不->自动微分怎么实现的（这个确实不知道）你觉得深度学习本质是什么（找局部\全局最优解吧）->怎么找的->怎么保证不落入局部最优解描述下训练一个模型的过程矩阵学过吗->海森矩阵有什么用（不会） ->矩阵的秩c++和 python 哪个用的多（差不多）->那来点 c++static 的作用、...