基于统计的机器学习推理优化方法

作     者：龚文龙 Gong Wenlong

作者机构：国网重庆永川供电公司重庆402100 

出 版 物：《信息与电脑》 (Information & Computer)

年 卷 期：2020年第32卷第21期

页      面：38-40页

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

主　　题：统计分析 机器学习 模型推理 执行优化 

摘      要：近年来,机器学习推理技术已经广泛应用在人们的日常生产和生活中,但现有技术通常使用面向传统数据服务的优化方法,而未考虑机器学习推理的统计学特征。本文设计了一种面向机器学习推理的优化方法,通过引入基于统计的优化策略以解决特征计算的性能瓶颈问题。首先,使用自动构造的近似模型丢弃得分较低的输入以进行准确的Top-K查询。然后,使用增强模型对剩余部分进行排序,以最小精度损失为代价提高查询性能。同时,自动调整优化参数,以最大化提高查询性能的同时满足准确性目标。此外,使用编译器优化来优化以上技术,从而为机器学习应用自动快速生成推理代码。