当前位置:

首页 > 业界资讯 > 哈工大提出创新迭代推理框架 DPE-MNER :充分发挥多模态表示潜力

哈工大提出创新迭代推理框架 DPE-MNER :充分发挥多模态表示潜力

AIxiv专栏是本站发布学术、技术内容的栏目。过去数年,本站AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术交流与传播。如果您有优秀的工作想要分享,欢迎投稿或者联系报道。投稿邮箱:liyazhou@jiqizhixin.com;zhaoyunfeng@jiqizhixin.com该文章的作者团队来自于哈工大社会计算与信息检索研究中心,作者团队构成:郑子豪、张梓涵、王泽鑫、付瑞吉、刘铭、王仲远、秦兵。多模态表示多模态命名实体识别,作为构建多模态知识图谱的一项基础而

哈工大提出创新迭代推理框架 DPE-MNER :充分发挥多模态表示潜力

AIxiv专栏是本站发布学术、技术内容的栏目。过去数年,本站AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术交流与传播。如果您有优秀的工作想要分享,欢迎投稿或者联系报道。投稿邮箱:liyazhou@jiqizhixin.com;zhaoyunfeng@jiqizhixin.com


该文章的作者团队来自于哈工大社会计算与信息检索研究中心,作者团队构成:郑子豪、张梓涵、王泽鑫、付瑞吉、刘铭、王仲远、秦兵。

多模态表示

多模态命名实体识别,作为构建多模态知识图谱的一项基础而关键任务,要求研究者整合多种模态信息以精准地从文本中提取命名实体。尽管以往的研究已经在不同层次上探索了多模态表示的整合方法,但在将这些多模态表示融合以提供丰富上下文信息、进而提升多模态命名实体识别的性能方面,它们仍显不足。

本文,研究团队提出了DPE-MNER,一个创新的迭代推理框架,它遵循“分解、优先、消除”的策略,动态地整合了多样化的多模态表示。该框架巧妙地将多模态表示的融合分解为层次化且相互连接的融合层,极大地简化了处理过程。在整合多模态信息时,该团队特别强调了从“简单到复杂”和“宏观到微观”的渐进式过渡。此外,通过显式地建模跨模态的相关性,研究团队有效地排除了那些可能对MNER预测造成误导的不相关信息。通过在两个公共数据集上进行的广泛实验,研究团队的方法已被证实在提升多模态命名实体识别的准确性和效率方面具有显著效果。本文为LREC-COLING 2024 1558篇录用论文中的十篇最佳论文候选之一

哈工大提出创新迭代推理框架 DPE-MNER :充分发挥多模态表示潜力


动机


哈工大提出创新迭代推理框架 DPE-MNER :充分发挥多模态表示潜力

多模态命名实体识别的一个实例。研究团队展示了对于命名实体识别决策可能有用的多种多模态表示。人类通常在心中以迭代的方式处理这些信息。

为解决这一问题,研究团队从复杂问题解决(Sternberg 和 Frensch,1992)这一领域中获得灵感。该领域专注于研究人类和计算机在解决包含多个变量、不确定性和高复杂性的问题时所采用的方法和策略。首先他们认为,当面对复杂问题时,人类一般会采用迭代的处理方式,如图所示,研究团队在处理MNER时其实也是个迭代的过程。其次,人类会运用特定策略来简化这些问题,比如分解、优先排序和排除不相关因素。

该研究团队认为,将多模态命名实体识别(MNER)视为一个整合多模态信息的迭代过程,并运用这些策略,非常适合于MNER任务。与单一步骤的方法相比,多步骤的方法能够在迭代优化命名实体识别(NER)结果的过程中,更全面地利用多样化的多模态表示。

此外,这三种策略非常适合于多模态NER中多种表示的整合:

  • 分解策略鼓励我们将多模态表示的融合拆分为更小、更易于处理的单元,这些单元能够在不同的粒度级别上探索多模态交互。
  • 优先排序策略建议根据“由易到难”和“由粗到细”的顺序来整合多模态信息;这种渐进式的整合有助于MNER预测的逐步优化。这使得模型能够逐步将注意力从简单但粗糙的信息转移到复杂但精确的细节上。
  • 不相关性消除策略启发我们显式地筛选并排除不同多模态表示中的无关信息;这可以消除那些可能影响MNER性能的无关信息。

方法

研究团队设计了一个迭代的动态融合多种多模态特征的多模态实体抽取框架,其包含一个迭代过程以及预测网络。 

哈工大提出创新迭代推理框架 DPE-MNER :充分发挥多模态表示潜力

迭代建模MNER

研究团队沿用扩散模型将物体识别,视觉对齐以及文本实体抽取建模为迭代的去噪过程的方式,同样使用了扩散模型将多模态实体抽取建模为迭代过程。模型首先随机初始化一系列的实体区间哈工大提出创新迭代推理框架 DPE-MNER :充分发挥多模态表示潜力,基于一个预测网络编码多模态特征来在去噪过程中迭代地去噪得到文本中的正确实体区间哈工大提出创新迭代推理框架 DPE-MNER :充分发挥多模态表示潜力

预测网络

如图所示,研究团队共获取了文本中的三种粒度的表示哈工大提出创新迭代推理框架 DPE-MNER :充分发挥多模态表示潜力,图片中的两种粒度两种难度(他们认为对齐的表示是简单的表示,不对齐的是困难的表示)的表示哈工大提出创新迭代推理框架 DPE-MNER :充分发挥多模态表示潜力。该团队的预测网络AMRN包含一个编码网络(DMMF)以及解码网络(MER)。预测网络的设计是基于前面所提到的三种策略。

如图所示,编码网络是一个层次化的融合网络,将多种多模态特征融合分解为了一个层次化的过程。自底向上是首先将相同粒度不同难度的图片特征哈工大提出创新迭代推理框架 DPE-MNER :充分发挥多模态表示潜力融合到每个粒度的文本特征中$x_i$, 将不同粒度的图片特征$Y$融合到每个粒度的文本特征哈工大提出创新迭代推理框架 DPE-MNER :充分发挥多模态表示潜力,最后将不同粒度的图片特征Y和文本特征X融合,得到最终的多模态表示。输入到解码网络中进行解码,解码网络得到新的区间,以及每个区间的实体类型。

底层融合。这一层研究团队将某一个粒度的图片特征融合到某一个粒度的文本特征中。根据扩散过程,研究团队可以得到一个调度器,该调度器可以反映当前的迭代的状态,也是引入优先级的关键。研究团队基于该调度器将不同难度的图片特征融合在一起得到哈工大提出创新迭代推理框架 DPE-MNER :充分发挥多模态表示潜力哈工大提出创新迭代推理框架 DPE-MNER :充分发挥多模态表示潜力相关性rel,用于消除其中的无关信息。最后结合该相关性使用了一个bottleneck transformer来进行图片哈工大提出创新迭代推理框架 DPE-MNER :充分发挥多模态表示潜力的融合,得到了某一粒度的多模态图像文本融合表示哈工大提出创新迭代推理框架 DPE-MNER :充分发挥多模态表示潜力

中层融合。这一层研究团队将不同粒度的图片特征融合到某一个粒度的文本特征中,即融合图片。这一层我们使用了调度器来对不同粒度的图片特征进行动态融合,得到了某一粒度的多模态文本表示哈工大提出创新迭代推理框架 DPE-MNER :充分发挥多模态表示潜力

顶层融合。这一层研究团队将不同粒度的多模态文本表示图片融合到区间的表示中,得到总的多模态的文本表示哈工大提出创新迭代推理框架 DPE-MNER :充分发挥多模态表示潜力,输入到解码网络中进行预测。

实验结果

主实验

作者团队对比了MNER的一些典型的方法。实验结果表明该方法在两个常用的数据集上取得了最佳的性能。
哈工大提出创新迭代推理框架 DPE-MNER :充分发挥多模态表示潜力
消融实验

研究者分别去除了我们论文中关于优先级、层次化、以及消除的设计,来观察模型性能,结果表明移除各个设计均带来了性能的下降。
哈工大提出创新迭代推理框架 DPE-MNER :充分发挥多模态表示潜力
与静态特征融合方法的对比

他们对比了一些典型的静态多模态融合方法,例如最大池化,平均池化,基于MLP以及MoE的方法,结果表明他们所提出的动态融合框架能达到最好的性能。

哈工大提出创新迭代推理框架 DPE-MNER :充分发挥多模态表示潜力

典型样例分析

研究团队选取了两个有代表性的样例来表明迭代过程。可以看到最开始的迭代步骤里,time square和cubs的类型被错误地预测了;然而根据图片中的重要特征线索,迭代地修正为了正确的实体类型。
哈工大提出创新迭代推理框架 DPE-MNER :充分发挥多模态表示潜力
结论

本文旨在多模态命名实体识别(MNER)领域内,充分地发挥各种多模态表示的潜力,以期获得卓越的识别效果。为此,作者们设计并提出了一种创新的迭代推理框架——DPE-MNER。DPE-MNER通过将MNER任务分解为多个阶段,巧妙地简化了对这些丰富多样的多模态表示的整合过程。在这一迭代过程中,多模态表示依据“分解、优先排序和消除”的策略,实现了动态的融合与整合。通过一系列严谨的实验验证,研究团队充分展示了DPE-MNER框架的显著效果和优越性能。

参考文献:
[1] Knowledge Graphs Meet Multi-Modal Learning: Comprehensive Survey, arxiv
[2] Decompose, Prioritize, and Eliminate: Dynamically Integrating Diverse Representations for Multi-modal Named Entity Recognition,2024,Joint International Conference on Computational Linguistics, Language Resources and Evaluation
[3] Complex problem solving : Principles and mechanisms,1992, American Journal of Psycholog
[4] DiffusionNER: Boundary Diffusion for Named Entity Recognition, ACL23 
[5] DiffusionDet: Diffusion Model for Object Detection, ICCV23
[6] Language-Guided Diffusion Model for Visual Grounding, arxiv23
本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
业界资讯
相关文章 更多
Siri等明年!苹果WWDC25给AI交底:画小饼,继续熬
Siri等明年!苹果WWDC25给AI交底:画小饼,继续熬

不求速胜,熬吧。

比特现金未来:可扩展性与支付潜力
比特现金未来:可扩展性与支付潜力

比特现金(BCH)的未来发展前景看好。凭借其可扩展性、支付采用、价值存储、智能合约和坚实的社区支持,比特现金有望在多个领域取得显著发展,成为一种多功能且广泛使用的加密货币。

ACH总量10亿,价值与用途详解
ACH总量10亿,价值与用途详解

ACH 总共发行了 10 亿枚,用于支付网关费用、治理投票和质押奖励。ACH 基于 BEP-20 标准,采用 PoS 机制,可通过私募、公募和生态系统分配获取,其价值受服务需求、实用性和市场趋势影响,可在币安、火币等交易所购买。

Coinbase Pro设置指南:下载、登录与自定义
Coinbase Pro设置指南:下载、登录与自定义

Coinbase Pro 设置步骤:下载并安装软件后,打开并登录,点击右上角齿轮图标进入“首选项”。在首选项中,你可以调整界面、安全、通知、交易和API设置,完成后点击“保存”按钮确认更改。

IoTeX等基础设施如何赋能IoT生态
IoTeX等基础设施如何赋能IoT生态

IoTeX、DePHY和peaq是构建物联网生态系统的关键基础设施。IoTeX提供去中心化网络,确保物联网交易和数据的安全性。DePHY利用区块链技术实现频谱共享和自治管理。peaq促进设备间的数据标准化和共享。通过这些基础设施的协同作用,物联网生态系统实现了去中心化、安全、互操作性和自治,充分释放了物联网的潜力。

DOGE发行价多少
DOGE发行价多少

波场etf代码
波场etf代码

TRX浏览器查询地址
TRX浏览器查询地址

ChainLink跑路了吗
ChainLink跑路了吗

什么叫Toncoin杠杆
什么叫Toncoin杠杆

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件
macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

Mac软件 更多
灵活计算器
灵活计算器
macOS/iOS/Android

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师
macOS

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

WINDOWS 更多
Windows 10
Windows 10
Windows

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘
Windows/macOS/iOS/Android

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。