求问阿里控股达摩院部门

1.自我介绍，基本情况2.实习拷打半小时字节+滴滴3.算法15min，岛屿问题，被X包住的O全部改成X。。。。不是哥们现在都不问八股的吗#阿里巴巴##字节跳动##腾讯##网易##牛客创作赏金赛#

一面 实习主要工作介绍； 千卡训练项目介绍； 竞赛项目介绍； 手撕：反转矩阵； 技术规划； 有什么其他offer； python深拷贝和浅拷贝区别； CPP的三种智能指针和用法； 写时拷贝原理 零拷贝原理 二面 大模型分布式训练的流程、并行策略考虑； 各种并行策略介绍； TP为什么有按行/列两种； 按行/列对应的是什么； Megatron-SP介绍， Transformer架构，有那些层、算子； encoder和incoder介绍，特点； FlashAttention介绍； online softmax介绍； block是软件还是硬件的； CUDA有哪些优化方法； 访存优化方法有哪些；...

1.流程化介绍项目。2.问了简历中的mlir和tvm。tvm relay调度源语和tir调度源语的区别mlir和tvm的区别。如何提高性能。只做过lcs带宽匹配。体感：这边业务是手写算子，更侧重单op性能优化的方法和手段，想搞算子开发的可以去找找gemm/conv op优化的各种方法来看看。无八股，无Lc，答得凑合，但是方向不太匹配。

二面通过了，问HR说在排队中，不知道什么时候开奖，NLP