版权所有：内蒙古大学图书馆 技术提供：维普资讯• 智图
内蒙古自治区呼和浩特市赛罕区大学西街235号 邮编: 010021
基于互信息的语言模型回退平滑算法
A back-off smoothing algorithm of language model based on mutual information作者机构：哈尔滨工程大学信息与通信工程学院黑龙江哈尔滨150001
出 版 物：《应用科技》 (Applied Science and Technology)
年 卷 期：2009年第36卷第4期
页 面：28-31,35页
学科分类：081203[工学-计算机应用技术] 08[工学] 0835[工学-软件工程] 0812[工学-计算机科学与技术（可授工学、理学学位）]
主 题：中文信息处理 统计语言模型 平滑算法 互信息 困惑度
摘 要：针对二元模型,提出了一种基于互信息的回退(MI Back-off)平滑算法.从互信息的角度,分析词之间的搭配关系,根据模型中每个二元对的互信息对其概率进行不同程度的折扣,并利用低阶模型对零概率事件进行补偿,通过极小化困惑度的原则体现新算法的合理性.在不同类别测试集下,该平滑算法与传统Katz平滑算法相比,模型困惑度下降均超过20%.
