上海汉得研发offer

首先声明不搞infra的不用看，我现在看底层了，本篇内容基于Efficient Memory Management for Large Language Model Serving with PagedAttention》 (SOSP 2023)出处： 加州大学伯克利分校（UC Berkeley）这篇里面讲了vllm，那么我们就先讲vllm。LLM 模型在推理阶段的显存有三部份组成：模型权重、KVCache 显存占用以及激活值显存占用。而今天我们是速成教程，所以又要体现深度，那么就先讲KVCache，这个本质上是一种通用的思路就是减少k，v的计算，采用缓存的机制去减少中间值，而这个的问题是kv...

双非本3个月拿下字节转正，运气好到家了呜呜

投了三四天，除了字节没人约面，求简历修改😇

从我3月份入职，居然已经年底了，那就写一下我入职公司的面试情况吧......🕐面试公司：不到100人的游戏发行公司💻面试岗位：数据分析师（实际进去后是在运营部干活，相当于数据运营工作）先来说一下我自己的bg：学院本软工女大数据方向，大学学的做的都很简单，包括爬虫、机器学习和数据挖掘，SQL之类的，基本上是没有学过真正数据分析要学的东西的（如：留存率、LTV之类的）。游戏数据分析的知识是面试前一个星期恶补的。之所以来面这个公司，还是因为亲戚推荐简历给了我们老板（简历还是面向Python岗写的.....），因为简历上写着日语n3和会数据分析，老板让HR联系我直接进入电话面试环节了....一开始...