国家标准网
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210799260.4 (22)申请日 2022.07.06 (71)申请人 曲阜师范大学 地址 273199 山东省济宁市曲阜市 静轩西 路57号 (72)发明人 王艳娜 周子力 张政 周淑霄  (74)专利代理 机构 北京远创理想知识产权代理 事务所(普通 合伙) 11513 专利代理师 卫安乐 (51)Int.Cl. G06F 40/211(2020.01) G06F 40/30(2020.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种基于增强图卷积神经网络的方面级情 感分析方法 (57)摘要 本发明公开了一种基于增强图卷积神经网 络的方面级情感分析方法, 该方法将方面感知 注 意力机制与自注意力机制相结合, 方面感知 注意 力机制学习与方面词相关的语义信息, 而自注意 力机制学习句子的全局语义, 并构造根据句法依 赖树中词之间的不同距离计算的句法掩码矩 阵 以学习从局部到全局的结构信息, 然后用以增强 传统图卷积神经网络, 最后通过多层图卷积操作 获得用于方面词情感分类的特征, 能更高效准确 地进行方面级情感分析。 权利要求书2页 说明书7页 附图1页 CN 115099219 A 2022.09.23 CN 115099219 A 1.一种基于增强图卷积神经网络的方面级情感分析方法, 其特征在于, 该方法具体包 括以下步骤: 步骤一、 构建输入层, 具体包括以下步骤: 11、 基于待分析文本构建方面词句 子对(a, s); 其中, s={w1, w2, ......, wn}, 其为待分 析的句子, 包 含n个词; a={a1, a2, ......, am}, 其为待分析句子中的方面词的集 合; 12、 基于s={w1, w2, ......, wn}生成对应的词嵌入序列x={x1, x2, ......, xn}; 13、 将词嵌入序列x={x1, x2, ......, xn}输入到双向长短期记忆网络中生成 隐藏状态 向量序列H ={h1, h2, ......, hn}; 其中, h∈R2d是在时间步t时的隐藏状态向量, d是单向长短 期记忆网络输出的隐藏状态向量的维度; 14、 基于隐藏状态向量序列H={h1, h2, ......, hn}获得对应于a={a1, a2, ......, am}的 隐藏状态向量序列ha={ha1, ha2, ......, ham}; 步骤二、 构建注意力层, 具体包括以下步骤: 21、 基于p头方面感知注意力机制, 使用下述公式(1)计算方面感知注意力分数矩阵: 其中, i∈[1, p], p为超参数, 方面感知注意力分数矩阵 表示它是通过第i个注意力 头获得的; tanh为激活函数, Ha∈R(n×d)为将隐藏状态向量序列ha={ha1, ha2, ......, ham}均 值池化后复制n次获得的结果, Wa∈R(d×d)和Wk∈R(d×d)均是可学习参数权重矩阵, 其中的d为 输入节点特征的维度, K为图卷积神经网络前一层的隐藏状态向量序列, T为转置, b为偏置 项; 22、 基于p头自注意力机制, 使用下述公式(2)计算自注意力分数矩阵: 其中, i∈[1, p], p为上述超参数, 自注意力分数矩阵 表示它是通过第i个注意力头 获得的; Q和K均为图卷积神经网络前一层的隐藏状态向量序列, WQ∈R(d×d)和Wk∈R(d×d)均是 可学习参数权 重矩阵, d为输入节点特 征的维度, T为 转置; 23、 基于方面感知注意力分数矩阵和自注意力分数矩阵, 使用下述公式(3)计算注意力 分数矩阵: 其中, Ai为注意力分数矩阵; 步骤三、 构建句法掩码层, 具体包括以下步骤: 31、 对于句法依赖树中词节点vi和vj之间的路径距 离d(vi, vj), 使用下述公式(4)计算词 节点vi和vj之间的最短路径 距离: D(i, j)=mi nd(vi, vj)    (4) 32、 基于最短路径 距离D(i, j), 使用下述公式(5)计算掩码矩阵: 其中, k∈[1, p], p为上述超参数, M={M1, ......, Mp};权 利 要 求 书 1/2 页 2 CN 115099219 A 233、 基于注意力分数矩阵和掩码矩阵, 使用下述公式(6)计算句法掩码矩阵: 其中, softmax为归一 化指数函数; 步骤四、 计算方面词的最终隐藏状态向量, 具体为使用下述公式(7)基于句法掩码矩阵 对图卷积神经网络进行增强并进 而获得方面词的最终隐藏状态向量: 其中, 图卷积神经网络包含 l层, l∈[1, L]; hl为该图卷积神经网络第l层的输出, 也即方 面词的最终隐藏状态向量; hl‑1为该图卷积神经网络第 l层的输入; σ 为非线性函数, Aij为句 法掩码矩阵Amask中第i行第j列那个元素, Wl为线性变换权重矩阵, bl为偏置项, n等于上述步 骤11中的n; 对于a={a1, a2, ......, am}, 则对应有更新后的隐藏状态向量序列 步骤五、 使用下述公式(8)对最终隐藏状态向量进行均值池化: 其中, f为均值池化 函数, 用于在图卷积神经网络层增强方面词的表示; 步骤六、 基于均值池化结果haspect使用下述公式(9)计算情感极性的概 率分布: p(a)=softmax(Wphaspect+bp)     (9) 其中, softmax为归一化指数函数, Wp为可学习参数权重矩阵, bp为偏置项, 不同值的概 率分布p(a)对应于方面词的不同情感极性。 2.一种电子设备, 其特征在于, 该电子设备包括处理器和存储器; 所述存储器, 用于存 放计算机程序; 所述处理器, 用于执行存储器上所存放的程序时, 实现权利要求1所述的方 面级情感分析 方法的步骤。 3.一种计算机可读存储介质, 其特征在于, 所述计算机可读存储介质内存储有计算机 程序, 所述计算机程序被处 理器执行时实现权利要求1所述的方面级情感分析 方法的步骤。权 利 要 求 书 2/2 页 3 CN 115099219 A 3

.PDF文档 专利 一种基于增强图卷积神经网络的方面级情感分析方法

文档预览
中文文档 11 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共11页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种基于增强图卷积神经网络的方面级情感分析方法 第 1 页 专利 一种基于增强图卷积神经网络的方面级情感分析方法 第 2 页 专利 一种基于增强图卷积神经网络的方面级情感分析方法 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 14:07:39上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。