中科曙光一面

1h1. 为什么要用dpo，什么任务要用dpo，不用可以吗，用了好处在哪，能优化哪里2. dpo ppo异同，dpo详细原理，loss3. 任务为什么不能只用sft4. 现在的推理模型是怎么训出来的，重点你感觉是哪里，哪里是让这些模型获得推理能力的点5. r1原理6. prm 和orm讲一讲，什么情况prm 什么情况orm，哪种更好，重点讲prm的优缺点，为什么现在的推理模型没有用prm手撕。一个字符串列表，一个长字符串，判断长字符串是否能用这个字符串列表里的词组成。没做出来，寄寄寄

1、进程 VS 线程 VS 协程？ 1.1、概念？ 什么是进程？线程？协程？ 进程（Process） 操作系统资源分配和调度的基本单位，进程间是独立的，一个进程崩溃不会影响另外一个进程 线程（Thread） 进程的子任务，所有线程共享同一个进程的上下文和资源，一个线程崩溃可能会导致该进程崩溃 协程（Coroutine） 比线程更轻量级的并发单元，它允许在单个线程中执行多个任务 注意：Linux 内核并不区别对待进程和线程，线程对于内核来说仅仅是一个共享特定资源的进程而已 1.2、特点？ 进程、线程和协程各自特点？ 进程 线程 协程 定义 操作系统中...

猿辅导两面一共撕了5道题。1. cuda kernel撕了reduce_sum、conv2d、实习写的一个kernel2. cpp手撕循环buffer和单链表冒泡排序3. 一面主要聊的是实习的cuda优化整体内容，然后聊大模型推理的内容4. 二面上来写题，然后聊大模型推理、vllm、模型量化相关内容。5. 问了二面面试官组内情况，整体感觉很好，但可惜接了蔚来offer，就没准备去了

中电信人工智能公司 大模型推理加速工程师实习生1. vllm sglang 有什么区别？sglang相对于vllm有什么好的？sglang为什么更适配推理这类的llm？dpskr1了解吗？和基座llm有什么区别？假如要魔改vllm，可以怎么做？2. Cuda算子开发经验，性能对比过吗？3. 大模型量化算法原理没问（感觉默认我懂）问有没有实际部署过？有没有看过autoawq的git库？4. Clip原理，clip推理流程了解吗？（简历里写了解过一些cv mllm方向）5. 实习经历介绍，实现的算子性能如何？常见大模型算子优化思路有哪些？（访存优化，并行优化）6. Ascend CANN MindIE框架有哪些组成？7. 场景1：V100显存多少，Dpsk Qwen 32B int8量化能部署吗？怎么部署？（紧张了，int8说2比特位…）8. 场景2：并发场景下怎么测试最大并发数，需要关注哪些指标？（答的不好）（bsz，latency 我回答的gpu利用率显存这些……面试官提示了从用户角度，我脑子没转过来）（指标含义没问，默认我懂）9. 场景3: vllm怎么去支持自研模型？面试官的建议：LLM有训练有推理，我们这个路子更偏向实现算法，加速算法。同样是attn，后端如何实现，如何更快。需要对算法有一定了解，对工程能力要求也挺高。我了解但是不够深入，实践经验较少。更深入去看vllm源码，应用层面怎么去调用算子，底层层面算子怎么实现的，怎么去实现更高性能算子（还提到可以从汇编层面出发）。关于暑期：电信（或者说国企）集团有统一的校招流程，需要投简历做笔试再分发简历到用人部门，没有直接内部转正的。个人感受：国企面试还是比较温和的，面试老师给我的感觉也是，知道你这个地方不会了，能力到这了，就不会再问了。呜呜呜，大厂全聚德的小垃圾（我）尸体暖暖的～#牛客AI配图神器#