Hierarchical Fusion Model (2019 ACL)三种模态的层次融合
创始人
2024-04-27 19:17:30
0

论文题目(Title):Multi-Modal Sarcasm Detection in Twitter with Hierarchical Fusion Model

研究问题(Question):主要研究了推特中由文本和图像组成的推文的多模态讽刺检测

研究动机(Motivation):以往的讽刺检测工作主要集中在文本上。然而,越来越多的社交媒体平台(如Twitter)允许用户创建多模式消息,包括文本、图像和视频。仅通过文本来检测多模型信息中的讽刺是不够的。

主要贡献(Contribution):

提出了一种新的层次融合模型来解决具有挑战性的推特中的多模态反讽检测任务。是第一个将图像、属性和文本这三种形态深度融合在一起的,而不是简单的连接推特讽刺检测。

研究思路(Idea):利用了三种类型的特征,即文本、图像和图像属性特征,并以一种新颖的方式融合它们。在早期融合过程中,使用属性特征初始化双向LSTM网络(Bi-LSTM),然后使用该网络提取文本特征。然后将三个特征进行表示融合,将它们转换为重建的表示向量。模态融合层对向量进行加权平均,并将它们送入分类层以产生最终结果。

研究方法(Method):

研究过程(Process):

        1.数据集(Dataset)

        2.评估指标(Evaluation)

F-score,Precision,Accuracy,Recall

        3.实验结果(Result)

 总结(Conclusion):作者提出了一种新的分层融合模型,以充分利用三种模态(图像、文本和图像属性)来解决具有挑战性的多模态讽刺检测任务。评估结果证明了提出的模型的有效性和三种模式的有用性。在未来的工作中,将把其他模态,如音频,纳入到讽刺检测任务中,也将研究在所提出的模型中使用常识知识。

相关内容

热门资讯

监控摄像头接入GB28181平... 流程简介将监控摄像头的视频在网站和APP中直播,要解决的几个问题是:1&...
【PdgCntEditor】解... 一、问题背景 大部分的图书对应的PDF,目录中的页码并非PDF中直接索引的页码...
在Word、WPS中插入AxM... 引言 我最近需要写一些文章,在排版时发现AxMath插入的公式竟然会导致行间距异常&#...
protocol buffer... 目录 目录 什么是protocol buffer 1.protobuf 1.1安装  1.2使用...
修复 爱普生 EPSON L4... L4151 L4153 L4156 L4158 L4163 L4165 L4166 L4168 L4...
Windows10添加群晖磁盘... 在使用群晖NAS时,我们需要通过本地映射的方式把NAS映射成本地的一块磁盘使用。 通过...
Fluent中创建监测点 1 概述某些仿真问题,需要创建监测点,用于获取空间定点的数据࿰...
ChatGPT 怎么用最新详细... ChatGPT 以其强大的信息整合和对话能力惊艳了全球,在自然语言处理上面表现出了惊人...
educoder数据结构与算法...                                                   ...
MySQL下载和安装(Wind... 前言:刚换了一台电脑,里面所有东西都需要重新配置,习惯了所...