清华新闻网7月14日电 7月7日，清华大学国强教授、智能产业研究院（AIR）首席研究员刘云新教授与微软亚洲研究院学者合作完成的论文“nn-Meter: 精准预测深度学习模型在边缘设备上的推理延迟”（nn-Meter: towards accurate latency prediction of deep-learning model inferenceon diverse edge devices）荣获国际计算机学会移动系统、应用和服务国际会议（MobiSys） 2021大会的最佳论文奖（Best Paper Award）以及工具评估（Artifact Evaluation）的全部三个徽章。

Mobisys全称为国际计算机学会移动系统、应用和服务国际会议（ACM International Conference on Mobile Systems, Applications, and Services），是由国际计算机学会移动特别兴趣小组（ACM SIGMOBILE）、高等计算机系统协会（USENIX）与国际计算机学会操作系统特别兴趣小组（ACM SIGOPS）联合发起的顶级学术会议。MobiSys会议旨在展示与移动计算和无线系统、应用、服务的设计、实现、使用、评估相关的重大创新和研究，有非常广泛的影响力和号召力。

为了高效、准确地预测深度神经网络模型在不同边缘设备上的推理延迟，刘云新教授团队提出并开发了一个基于内核的模型推理延迟预测系统nn-Meter，引入了内核检测，可找出算子融合行为。通过对最有价值的数据进行采样，nn-Meter有效地建立了内核的延迟预测器。刘云新教授团队在一个大型数据集和三种类型的边缘设备上进行了实验，结果nn-Meter的表现明显优于先前的最好方法。

论文下载：

https://air.tsinghua.edu.cn/news_detail.html?id=93&classId=100

供稿：智能产业研究院

编辑：李华山

审核：田姬熔