暑期实习就这样找到了

面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

虽然我早已不记得，自己入职第一天具体发生了什么（毕竟也不是新手村的人了），但作为mt，倒是可以和大家分享：入职第一天怎么做，能给你未来的导师和同事留下一个好印象📒别迟到！尽量早一点到（或至少准时）绝对是加分项。一个有时间观念的新人，会让同事觉得你态度认真、做事靠谱，第一印象分直接拉满 💯。进工作群后，主动打招呼但不用刻意“装E”，在工作群里简单自我介绍、和大家问声好，还是很有必要的。记住要“大大方方”的啊，让团队感受到你想融入的热情。衣着干净整洁，上班前一天洗澡是基本礼仪，懂的都懂（你不洗澡也至少洗个头！）。穿一件清爽整洁的衣服，传递出你重视这份工作、也尊重身边同事的信号。主动问mt今天要...