人工智能推理优化工程师
薪资面议
人工智能 南京 本科 1-3年
岗位关键词
岗位职责
负责加速基于国产加速卡大模型推理优化
岗位要求
1. 熟悉使用vllm、lmdeploy、sglang、tensorrt等大模型及cv类推理框架
2. 熟悉使用GPU性能分析工具，nsight、ncomputer等
3. 熟悉推理量化、剪枝、chunk prefill、speculative decoding等技术
4. 有过大模型推理部署经验者优先
5. 熟练使用C/C++、python编程
6. 熟悉使用linux操作系统
牛客安全提示：如发现虚假招聘、广告，或以任何名义索要证件、费用，或诱导异地入职、参与培训等均属违法行为，发现请
立即举报