感觉是对于大模型推理的batch问题上回答的面试官不是很满意，反正没有后续联系了1. 自我介绍2. 直接聊项目3. 聊vllm的特性4. 转到聊为什么batch能提高吞吐量，我的回答他不是很满意5. 做了一道合并有序链表，然后围绕题目突然展开聊操做系统底层。真难啊找个实习

BP16 和 FP16 在存储结构、精度表现、数值范围以及适用场景方面有什么不同？训练时使用bf16更稳定，表示范围大，并且自带隐式正则化buffer；推理时使用fp16比bf16更好，因为fp16表示精度高。 https://www.zhihu.com/question/616600181/answer/3194881239怎么解决训练使用float16导致溢出的问题？使用 缩放因子 trick混合精度训练kv-cache的作用一种缓存技术，通过存储键值对的形式来复用计算结果，以达到提高性能和降低内存消耗量化方法的分类按量化对象分：KV Cache量化、模型权重量化、激活值量化-按量化阶段分...

求助大家！各位美女帅哥们字节的地理位置中台岗位产品实习咋样呢

题目描述：给定一个 n 个数，求解有多少个长度为奇数的区间的中位数位置刚好就在正中间。输入：第一行输入 t ，表示 t 组输入第二行输入 n，数组大小为 n 第三行输入 n 个数。t 组输入的 n 的个数和不超过 10000。思路：通过数据，可以预估该题时间复杂度，初步预估O（nlogn），不过发现二分啥的都解不了。思考O（n * n）思路。发现常数不大，完全没问题。思路一：（dp数数）数数题，一般思路，遍历一遍数组，在 i 位置时统计添加一个 a[i] 元素，会新增多少个满足答案的区间。例：3 2 1 4 5 i = 1时，新增 1 个区间。[1, 1]i = 2时，新增 1 个区间。[2,...