基于预训练模型的用户评分预测

作     者：强敏杰 王中卿 周国栋 QIANG Min-Jie;WANG Zhong-Qing;ZHOU Guo-Dong

作者机构：苏州大学计算机科学与技术学院江苏苏州215006 

出 版 物：《软件学报》 (Journal of Software)

年 卷 期：2025年第36卷第2期

页      面：608-624页

核心收录：

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

主　　题：推荐系统 评分预测 预训练模型 注意力机制 

摘      要：随着商家评论网站的快速发展,推荐系统所带来的效率提升使得评分预测成为近年来新兴研究任务之一.现有的评分预测方法通常局限于协同过滤算法以及各类神经网络模型,并没有充分利用目前预训练模型提前学习的丰富的语义知识.针对此问题,提出一种基于预训练语言模型的个性化评分预测方法,其通过分析用户和商家的历史评论,为用户在消费前提供评分预测作为参考.该方法首先设计一项预训练任务,让模型学习捕捉文本中的关键信息.其次,通过细粒度情感分析方法对评论文本进行处理,从而获取评论文本中的属性词.接下来,设计一个属性词嵌入层将上述外部领域知识融入模型中.最后,采用基于注意力机制的信息融合策略,将输入文本的全局和局部语义信息进行融合.实验结果表明,该方法相较于基准模型,在两个自动评价指标上均取得显著的提升.