基于管道的方法是目前任务型对话系统的主要构建方式,在工业界具有广泛的应用,而对话状态跟踪(Dialogue State Tracking,DST)是任务型对话系统中的核心任务.面对传统的方法在多领域场景下表现较差的问题,该文结合语言模型预训练的最新...
详细信息
基于管道的方法是目前任务型对话系统的主要构建方式,在工业界具有广泛的应用,而对话状态跟踪(Dialogue State Tracking,DST)是任务型对话系统中的核心任务.面对传统的方法在多领域场景下表现较差的问题,该文结合语言模型预训练的最新研究成果,提出了一种基于BERT的对话状态跟踪算法Q2SM(Query to State Model).该模型的上游使用了基于BERT的句子表征与相似度交互的槽判定模块,下游使用了一种面向对话状态跟踪任务的自定义RNN:DST-RNN.在WOZ2.0和MultiWOZ2.0两个数据集上的实验表明,Q2SM相比于之前的最好模型,分别在联合准确率和状态F1值两个评价指标上提升了1.09%和2.38%;此外,模型消融实验验证了DST-RNN相比于传统的RNN或LSTM,不仅可以提升评价指标值,还可以加快模型的收敛速度.
暂无评论