该职位来源于猎聘 在有限的计算资源以及内存带宽下通过不限于算子优化，算子融合，量化，剪枝，模型结构优化等技巧来优化模型部署，满足业务帧率要求。 我们需要你：

• 熟悉模型推理优化基本原理，例如算子优化，融合，混合精度部署、模型量化、蒸馏、剪枝优化等
• 熟悉常见的AI模型推理引擎或了解编译优化技术 ，例如TensorRT，TVM，MLIR等
• 熟练掌握PyTorch机器学习框架，ONNX以及模型导出部署流程
• 熟悉GPU体系架构，熟悉cuda runtime以及cuda kernel编程 5.熟悉常见的深度学习模型结构，如CNN, Transformer等 加分项: 1.有Nvidia SoC相关的量产部署经验，如ORIN, Thor，熟悉DriveOS以及QNX safety上模型部署的经验 2.有完整高通芯片的量产部署经验