[目的/意义]舆情趋势预测是信息安全领域的重点研究方向,网络舆情事件的早发现、早干预是对网络环境得以安全稳定的一种保障。但网络环境错综复杂,具有高突发性,现有研究多以线性预测为基础,对舆情突发事件预测效果欠佳。[方法/过程]为提升预测准确度,文章通过引入SDZ(Suprisal-Driven Zoneout)方法改进长短期记忆网络(Long-short Term Memory,LSTM)用固定概率更新神经元的不足,提出了基于SDZ-LSTM的舆情事件网络趋势预测模型。模型分为三个层次,首尾两个层次用LSTM网络来实现对舆情的精确预测,中间层SDZ-LSTM结构利用SDZ在LSTM原有结构基础上增加一个参数Zt,来对LSTM记忆单元Ct进行概率化的更新,该结构使模型在预测精度提高的同时,缩短了模型训练时长。[结果/结论]实验证明,文章所提模型在预测准确度和时效性上均优于当前基于神经网络的预测模型,有更好的舆情预测效果。
时间差分算法(Temporal difference methods,TD)是一类模型无关的强化学习算法.该算法拥有较低的方差和可以在线(On-line)学习的优点,得到了广泛的应用.但对于一种给定的TD算法,往往只能通过调整步长参数或其他超参数来加速收敛,这也就造成了加速TD算法收敛的方法匮乏.针对此问题提出了一种利用蒙特卡洛算法(Monte Carlo methods,MC)来加速TD算法收敛的方法(Accelerate TD by MC,ATDMC).该方法不仅可以适用于绝大部分的TD算法,而且不需要改变在线学习的方式.为了证明方法的有效性,分别在同策略(On-policy)评估、异策略(Off-policy)评估和控制(Control)三个方面进行了实验.实验结果表明ATDMC方法可以有效地加速各类TD算法.
针对传统关系抽取模型依赖特征工程等机器学习方法,存在准确率较低且规则较繁琐等问题,提出一种BERT+BiLSTM+CRF方法.首先使用BERT(bidirectional encoder representations from transformers)对语料进行预训练;然后利用BERT根据上下文...
详细信息
针对传统关系抽取模型依赖特征工程等机器学习方法,存在准确率较低且规则较繁琐等问题,提出一种BERT+BiLSTM+CRF方法.首先使用BERT(bidirectional encoder representations from transformers)对语料进行预训练;然后利用BERT根据上下文特征动态生成词向量的特点,将生成的词向量通过双向长短期记忆网络(BiLSTM)编码;最后输入到条件随机场(CRF)层完成对因果关系的抽取.实验结果表明,该模型在SemEval-CE数据集上准确率比BiLSTM+CRF+self-ATT模型提高了0.0541,从而提高了深度学习方法在因果关系抽取任务中的性能.
暂无评论