中电信人工智能公司 大模型推理加速工程师实习生1. vllm sglang 有什么区别？sglang相对于vllm有什么好的？sglang为什么更适配推理这类的llm？dpskr1了解吗？和基座llm有什么区别？假如要魔改vllm，可以怎么做？2. Cuda算子开发经验，性能对比过吗？3. 大模型量化算法原理没问（感觉默认我懂）问有没有实际部署过？有没有看过autoawq的git库？4. Clip原理，clip推理流程了解吗？（简历里写了解过一些cv mllm方向）5. 实习经历介绍，实现的算子性能如何？常见大模型算子优化思路有哪些？（访存优化，并行优化）6. Ascend CANN MindIE框架有哪些组成？7. 场景1：V100显存多少，Dpsk Qwen 32B int8量化能部署吗？怎么部署？（紧张了，int8说2比特位…）8. 场景2：并发场景下怎么测试最大并发数，需要关注哪些指标？（答的不好）（bsz，latency 我回答的gpu利用率显存这些……面试官提示了从用户角度，我脑子没转过来）（指标含义没问，默认我懂）9. 场景3: vllm怎么去支持自研模型？面试官的建议：LLM有训练有推理，我们这个路子更偏向实现算法，加速算法。同样是attn，后端如何实现，如何更快。需要对算法有一定了解，对工程能力要求也挺高。我了解但是不够深入，实践经验较少。更深入去看vllm源码，应用层面怎么去调用算子，底层层面算子怎么实现的，怎么去实现更高性能算子（还提到可以从汇编层面出发）。关于暑期：电信（或者说国企）集团有统一的校招流程，需要投简历做笔试再分发简历到用人部门，没有直接内部转正的。个人感受：国企面试还是比较温和的，面试老师给我的感觉也是，知道你这个地方不会了，能力到这了，就不会再问了。呜呜呜，大厂全聚德的小垃圾（我）尸体暖暖的～#牛客AI配图神器#

1.逃离中山路 #include <bits/stdc++.h> using namespace std; typedef long long ll; typedef pair<ll,ll> pii; const ll N=1010; ll way[N][N]; ll n,x1,y3,x2,y2; ll dx[]={1,0,-1,0}; ll dy[]={0,1,0,-1}; ll st[N][N]; ll bfs(ll x1,ll y3,ll x2,ll y2){ queue<pii> arr; arr.push({x1,y3}); ...

美团sass部门是啥呀

1.自我介绍2.Aop的实现原理3.详细说一下redis怎么用的4.怎么保证库存的一致性5.怎么保证数据库修改和redis修改的事务性？读redis会发现有库存但是实际上已经没有库存，会下单失败6.有用到过多线程吗？7.多线程的实现方式8.线程池Excutor提供了几种线程池？9.使用线程池会有什么问题？10.自定义线程池用的是哪个线程池？11.线程池有哪些参数？12.什么情况下会生成一个线程，什么情况下会入队列？13.MySQL的隔离级别14.读未提交有哪些问题？怎么解决？15.MySQL怎么实现读未提交的？读已提交呢？可重复读呢？16.Jvm的内存模型17.堆怎么划分，新生代怎么划分18....