Hierarchical Fusion Model (2019 ACL)三种模态的层次融合
创始人
2024-04-27 19:17:30
0

论文题目(Title):Multi-Modal Sarcasm Detection in Twitter with Hierarchical Fusion Model

研究问题(Question):主要研究了推特中由文本和图像组成的推文的多模态讽刺检测

研究动机(Motivation):以往的讽刺检测工作主要集中在文本上。然而,越来越多的社交媒体平台(如Twitter)允许用户创建多模式消息,包括文本、图像和视频。仅通过文本来检测多模型信息中的讽刺是不够的。

主要贡献(Contribution):

提出了一种新的层次融合模型来解决具有挑战性的推特中的多模态反讽检测任务。是第一个将图像、属性和文本这三种形态深度融合在一起的,而不是简单的连接推特讽刺检测。

研究思路(Idea):利用了三种类型的特征,即文本、图像和图像属性特征,并以一种新颖的方式融合它们。在早期融合过程中,使用属性特征初始化双向LSTM网络(Bi-LSTM),然后使用该网络提取文本特征。然后将三个特征进行表示融合,将它们转换为重建的表示向量。模态融合层对向量进行加权平均,并将它们送入分类层以产生最终结果。

研究方法(Method):

研究过程(Process):

        1.数据集(Dataset)

        2.评估指标(Evaluation)

F-score,Precision,Accuracy,Recall

        3.实验结果(Result)

 总结(Conclusion):作者提出了一种新的分层融合模型,以充分利用三种模态(图像、文本和图像属性)来解决具有挑战性的多模态讽刺检测任务。评估结果证明了提出的模型的有效性和三种模式的有用性。在未来的工作中,将把其他模态,如音频,纳入到讽刺检测任务中,也将研究在所提出的模型中使用常识知识。

相关内容

热门资讯

MySQL下载和安装(Wind... 前言:刚换了一台电脑,里面所有东西都需要重新配置,习惯了所...
Android---Banne... 轮播图是一种很常见的UI。Banner框架能够帮助我们快速开发,完成首页轮播图效果的需...
python -- PyQt5... 控件2 本章我们继续介绍PyQt5控件。这次的有 QPixmap , QLineEdi...
Mysql SQL优化跟踪来看... 背景 使用索引字段进行筛选数据时,explain查询语句发现MySQL居然没有使用索...
UG 6.0软件安装教程 UG 6.0软件安装教程 软件简介: UG 6.0是目前网络最好用、使用最为广泛的大型...
HTML静态网页作业——关于我... 家乡旅游景点网页作业制作 网页代码运用了DIV盒子的使用方法,如盒子的嵌套、浮动、ma...
MFC文件操作  MFC提供了一个文件操作的基类CFile,这个类提供了一个没有缓存的二进制格式的磁盘...
NoSQL数据库之Redis2 Redis 事务 事务的基础概念 关于事务最常见的例子就是银行转账,A 账户给 B 账...
Spring Security... 前言 在 Spring Security 中,默认的登陆方式是以表单形式进行提交参数的...
【关于Linux中----进程... 文章目录一、什么是管道二、匿名管道三、命名管道 一、什么是管道 进程间通信主要目的为以下几点 数...