许愿天翼云

不知道为什么会有这种雷霆惩罚

暑期实习拿到了某家大厂没去，秋招没投这家。10月份的时候hr打电话说。说暑期评价非常高，可以只面一场来发offer，我说ok的。结果又过了一周没什么消息，我以为说说而已。这两天call我说不用面了，直接看邮箱有offer，又是股票又是签字费的，总包60+，如图上次短信还是四月的面试邀请。ps：最后拒了，选了字节，只能说良心有点不安了。

面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...