高性能计算

1. 自我介绍2. 项目介绍3. 端侧部署大模型做的移植工作4. kv cache的管理5. 如何优化大模型的部署推理加速6. 推理框架的设计7. 计算图的设计8. 量化的原理9. 量化出现过大的误差该如何处理10. 量化算子是如何计算的，计算图会发生哪些变化聊了一下职业发展和目标城市，一共30分钟#高性能计算##高性能计算面经##牛客创作赏金赛#

1. 自我介绍2. 项目介绍3. 目标检测算法4. 目标检测的类别数，数据集大小5. yolov5的改进6. 量化的校准数据集7. 量化的原理8. 量化的精度评估9. 量化计算scale的方法10. 吞吐量计算11. 推理框架12. 计算图的构建13. 卷积算子的实现14. 矩阵乘分块15. 大模型分词器16. ARM NEON17. kv cache18. 指针与引用19. 堆与栈20. 野指针和智能指针30分钟#秋招##面经##高性能计算#

一面 1. 自我介绍2. 项目介绍3. 预处理cuda加速4. 吞吐量如何增加5. 模型量化，体积减小与速度提高分析，精度分析6. 混合精度量化7. 多摄像头特征，多传感器特征如何对齐？8. bev的缺点，有什么问题9. chat-glm的预训练是怎么做的？10. 为什么没有q的cache11. 目标跟踪论文的介绍，拷打12. 小目标检测的trick13. bert与vit的位置编码，chat-glm的位置编码14. transformer结构加速15. flash attention16. 如何设计一个框架，支持后端各种不同硬件的推理框架17. layernorm如何计算的，是对哪一个维度18. safe softmax19. 特征值是什么，不同类型的特征怎么对齐，怎么评判提取一个特征好不好20. softmax对某一个类别的梯度，怎么计算的，是不是恒为正21. BN前如果有线性层，线性层还要加bias吗50分钟#高性能计算面经##高性能计算##模型部署##秋招#

深圳AI异构计算-二面1.自我介绍2.项目背景，实际的落地，主要功能啥的，项目多少人，做了多久，基于规则，设备是什么3.RT-DETR与DETR的优化4.大模型推理加速的方法哪些5.attention算子加速6.手撕代码：leetcode 43，leetcode 946#面经##高性能计算##秋招#

小伙伴们看过来，介绍优秀开源项目了，C++经典学习路线，搜索和AI推理方向，端到端的搜索系统kumo-search，该框架包括了C++高性能基础库turbo、向量引擎titan-ann、并行计算库flare、网络框架库 melon、以及python的高性能aot编译器Hercules等模块。有时间的小伙伴欢迎来star和学习~   #搜索架构研发实习##高性能计算##百度工作体验##阿里##字节#项目链接地址 https://github.com/gottingen/search-legend，相关代码在界面相关子项目中。 你可以学到自动化的cmake构建，快手上手cmake和工程。你可以学习到高效的数据结构和网络框架，来自brpc、abseil、Onnxruntime等经典项目的精华，吊打webserver等单事件eventloop的网络架构。C++基础打扎实，视角广度提升，学习到高性能计算的simd、cuda等抽象封装。如果你是在校学生，想要转C++方向，搜索架构和AI高性能计算是非常合适的，这套项目也需要事件来好好研究，欢迎大家star，学长给你C++求职的建议。本人介绍，本人是23届毕业的硕士老哥，毕业走C++方向，拿到百度和理想等offer，相关实习和秋招面经可以看我的帖子，这个kumo-search#C++八股##C++项目#项目是跟一个T9的大佬一起学习，搞的，用心学习能极大提升C++功底，搞定的话，百度T6水平不是问题，行业通吃。******************************************* 也可以给找实习和工作的小伙伴内推字节、阿里、百度、理想、地平线这些公司，身边的同学和朋友有在这些公司工作，大都是23届校招去的同学，了解相关毕业生发展和培养。

#秋招# #百度# #华为# #python# #高性能计算# 小东西目前实习做的方向是深度学习框架AI compiler，除了正在实习的厂以外，只知道华子也有类似的岗位，但听说华子计算部门非常累。字节，美团等其他大厂还有类似的坑吗，马上就要参加秋招了，要换个方向吗😢😢

秋招面了这么多家以来，面试体验最差的一家公司。上来没有让我自我介绍，直接问我为什么没写实习，我说我这不能实习。面试官说不让你去你就不去吗。我说我导师就在我办公室这，经常会喊我，我还是得保证毕业。然后他说大家都是过来人，肯定有办法的。我真是一整个大无语。面试啥也不问，直接喊我写智能指针，然后自己在那玩手机。我写完了喊他，喊几句才理我，也不看我写的代码，直接就喊我写下一个代码，写完了又不看，然后就结束了。30分钟，体验极差。#高性能计算面经##高性能计算#

二面1. 自我介绍2. 推理框架的设计，计算图，运行图，内存管理3. 动态图，静态图，动态shape4. 图优化5. warp之间通信6. cuda reduce7. cuda softmax，warp处理与block处理的区别8. block，grid的设置，调度，为什么会影响算子速度9. CUDA的计算模型10.flash attention v1 v2面试时间：45分钟#面经##高性能计算##高性能计算面经##模型部署#

周一投完这周共5个面试 面完3个 时间冲突放弃1个 周五还剩1个力扣和数据结构没怎么刷先上战场了 面试中目前失败一个（写了65%）研一下到现在学了半年CUDA和TensorRT构建推理引擎 各类模型的高性能算子和高性能推理还缺乏实践 更深的TVM，分布式的deepseed和汇编没时间了 现在迷茫了 要学的很多且可能学完依旧找不到 #高性能计算#  #高性能计算面经#  #HPC高性能计算工程师#

0905一面  0909HR面0920发测评 1011 OC我说下周一给答复，决定签不签#高性能计算##高性能计算面经#

最近算能科技和摩尔线程的实习面试都通过了，目前正在offer审批中，算能是做他们自己显卡的图形API开发，摩尔线程是GPU计算软件开发，小米的智驾c++开发下周二面，想请教各位牛友，从明年就业前景的角度看应该怎么选择呢？（算能的工资比摩尔线程快高了一倍，有点心动）ps:我本身是数学专业#小米# #小米# #cpp实习# #算能科技# #比特大陆# #摩尔线程# #高性能计算# #hpc#

0923一面1017二面1024HR面一到两周出结果~#牛客创作赏金赛##高性能计算#

0913一面0925二面1010HR面说是通过的话，10月下旬直接谈薪发offer。#高性能计算##秋招##面经#

目前想要找嵌入式AI或开发相关的岗位，比较迷茫，请大佬们指点下简历以及经验#嵌入式软开##嵌入式Linux##嵌入式AI软件系统优化算法实习生##高性能计算#

0910一面0912二面1008HR面HR面后发了测评 #高性能计算#

双非研究生，开学后研2。目前在用国产服务器神威做组内项目的并行优化，C和Fortran代码。招聘网站上关于神威的岗位几乎没有，于是想问大佬们是否要转cuda➕ai或者继续做神威，老师手里有一两张A100。 #高性能计算#  #并行计算#  #实习招聘#  #C#  #cuda#

1. PPT介绍2. 问了一些多目标跟踪算法3. 卡尔曼滤波4. 推理框架使用5. CUDA锁页内存问了20分钟的样子，没怎么问#高性能计算面经##高性能计算##牛客创作赏金赛#

一面1.自我介绍2.卷积算子实现3.端侧的大模型部署4.学过计算机哪些课程coding：树形DP#高性能计算##高性能计算面经##牛客创作赏金赛#