针对现有的基于注意力机制的方法难以捕捉文本之间复杂的依赖关系的问题，提出一种基于对比学习增强双注意力机制的多标签文本分类方法。首先，分别学习基于自注意力和基于标签注意力的文本表示，并将二者进行融合，获得更全面的文本表示以捕捉文本的结构特征以及文本与标签之间的语义关联。然后，给定一个多标签对比学习目标，利用标签引导的文本相似度监督文本表示的学习以捕捉文本之间在主题、内容和结构层面上复杂的依赖关系。最后，使用前馈神经网络作为分类器，进行文本分类。实验结果表明，与LDGN(label-specific dual graph neural network)方法相比，该方法在EUR-Lex(European Union Law Document)数据集与Reuters-21578数据集上的nDCG@5值分别提升了1.81和0.86个百分点；在AAPD(Arxiv Academic Paper Dataset)数据集与RCV1(Reuters Corpus Volume I)数据集上也取得有竞争力的实验结果。因此，该方法能够有效地捕捉文本之间在主题、内容和结构层面上复杂的依赖关系，从而在多标签文本分类任务上取得较优结果。
针对现有推荐模型忽略用户兴趣的动态变化,导致推荐精度较低等问题,提出一个基于用户行为的长短期序列推荐模型(long and short term sequence recommendation model based on user behavior,UBLSR)。在序列信息挖掘部分设计一种多路空...
详细信息
针对现有推荐模型忽略用户兴趣的动态变化,导致推荐精度较低等问题,提出一个基于用户行为的长短期序列推荐模型(long and short term sequence recommendation model based on user behavior,UBLSR)。在序列信息挖掘部分设计一种多路空洞卷积网络,将网络扩展成多通路结构挖掘复杂的用户行为特征;将短期时间窗口内的序列行为和目标物品进行关联,通过自注意力网络动态地对用户短期兴趣进行建模;设计一种邻居用户表示方案,借助注意力机制关注邻域内有影响力的用户子集,对用户长期兴趣进行建模;将短期兴趣建模和长期兴趣建模的结果联合进行推荐预测。UBLSR模型在Gowalla、Movielens-1M两个数据集上进行实验,其结果表明,该模型优于其它基准模型,达到较为突出的性能。
暂无评论