面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

太棒了      

实习了这么多公司下来，对SHEIN的感受就是 希音的培养体系非常系统和全面 有非常丰富的资源可以学习—— 新人入职时会召开新人会议，介绍公司制度和福利 有专门针对这个岗位新人的学习清单 部门团队介绍和业务梳理 帮助我快速了解业务框架和具体工作方法 还有SHEIN学院里的职场软技能提升课程和英语课程不可谓不丰富了 但是学到多少，就看你的主动性和学习能力了 扁平化组织让我有更多机会直接接触到mentor和leader 每天都能one on one沟通 部门全员E人的氛围让初来乍到的原本e人的我也变成了i人[呃R] 但是后面也很好地融入啦 团队伙伴都说舍不得我离开…mentor说感谢我为团队带来了新...