突破分辨率极限：字节联合中科大揭示多模态文档大模型
现在甚至有了大型的多模态高分辨率文档！这项技术不仅能够准确识别图像中的信息，还能够根据用户需求调用自身的知识库来回答问题比如，看到图中马里奥的界面，直接就回答出了这是任天堂公司的作品。这个模型是由字节跳动和中国科学技术大学合作研究的，于2023年11月24日上传至arXiv在此研究中，作者团队提出DocPedia，一个统一的高分辨率多模态文档大模型DocPedia。在此研究中，作者用一种新的方式解决了现有模型不能解析高分辨文档图像的短板。DocPedia分辨率可达2560×2560，而目前业内先进多模态大
现在甚至有了大型的多模态高分辨率文档！
这项技术不仅能够准确识别图像中的信息，还能够根据用户需求调用自身的知识库来回答问题
比如，看到图中马里奥的界面，直接就回答出了这是任天堂公司的作品。
这个模型是由字节跳动和中国科学技术大学合作研究的，于2023年11月24日上传至arXiv
在此研究中，作者团队提出DocPedia，一个统一的高分辨率多模态文档大模型DocPedia。
在此研究中，作者用一种新的方式解决了现有模型不能解析高分辨文档图像的短板。
DocPedia分辨率可达2560×2560，而目前业内先进多模态大模型如LLaVA、MiniGPT-4等处理图像分辨率上限为336×336，无法解析高分辨率的文档图像。
那么，这款模型究竟表现如何，又使用了怎样的优化方式呢？
各项测评成绩显著提升
在这篇论文中，作者展示了DocPedia高分辨图文理解的示例。可以观察到DocPedia有能力理解指令内容，并从高分辨率的文档图像和自然场景图像中准确地提取相关的图文信息
比如这组图中，DocPedia轻松从图片中挖掘出了车牌号、电脑配置等文本信息，甚至手写文字也能准确判断。
结合图像中的文本信息，DocPedia还可以利用大模型推理能力，根据上下文分析问题。
DocPedia在读取完图片信息后，还会根据其丰富的世界知识库，回答图像中未展示的扩展内容
下表定量对比了现有的一些多模态大模型和DocPedia的关键信息抽取（KIE）和视觉问答（VQA）能力。
通过提升分辨率和采用有效的训练方法，我们可以看到DocPedia在各项测试基准上都取得了显著的提升
那么，DocPedia是如何实现这样的效果的呢呢？
从频域出发解决分辨率问题
DocPedia的训练分为两个阶段：预训练和微调。为了训练DocPedia，作者团队收集了包含各类文档的大量图文数据，并构建指令微调数据集。
在预训练阶段，大型语言模型将被冻结，而只优化视觉编码器的部分，以使其输出的token表征空间与大型语言模型保持一致
在这个阶段，作者团队提出主要训练DocPedia的感知能力，包括对文字和自然场景的感知
预训练任务包括文字检测、文字识别、端到端OCR、段落阅读、全文阅读，以及图像文字说明。
在微调阶段，大型语言模型解除冻结，进行端到端整体优化
作者团队提出了感知-理解联合训练策略：在原有的低阶感知任务基础上，增加了文档理解和场景图像两种高阶的偏语义理解任务
这样一种感知-理解联合训练策略，进一步提高了DocPedia的性能。
在分辨率问题的策略上，与现有方法不同，DocPedia从频域的角度出发去解决。
在处理高分辨率文档图像时，DocPedia会首先提取其DCT系数矩阵。这个矩阵可以在不损失原图像的图文信息的情况下，将其空间分辨率下采样8倍
经过这一步骤后，我们会使用级联的频域适配器（Frequency Adapter）将输入信号传递给视觉编码器（Vision Encoder），以进行更深层次的分辨率压缩和特征提取
通过此方法，一张2560×2560的图像，其图文信息可以用1600个token表示。
该方法相较于直接将原始图像输入到视觉编码器（如Swin Transformer）中，token数量减少4倍。
最后，这些token与指令转换而来的token进行序列维度拼接，输入到大模型进行回答。
消融实验的结果显示，提高分辨率和进行感知-理解联合微调是提升DocPedia性能的两个重要因素
下图对比了DocPedia对于一张论文图像以及同一个指令，在不同输入尺度下的回答。可以看到，当且仅当分辨率提升至2560×2560时，DocPedia回答正确。
下图则对比了DocPedia对于同一张场景文字图像以及同一个指令，在不同微调策略下模型的回答。
通过这个例子可以看出，经过感知-理解联合微调的模型，能够准确地进行文字识别和语义问答
请点击以下链接查看论文：https://arxiv.org/abs/2311.11810
在千兆宽带、5G通信与云服务深度普及的2026年，大众普遍以为超大文件传输已步入“秒级时代”，但现实远未达到这般畅快。当面对数TB乃至数十TB级别的庞大数据集时，当下最可靠、最迅捷且兼顾安全性的传输方案，依然是“物理位移”——依靠人工携带存储介质完成跨地域交付。一位来自河南信阳的用户讲述了真实经历：他曾需将4TB资料从信阳送往郑州，首次尝试纯网络传输，系统预估总耗时近72小时；最终改用专人驱车运送，单程仅需约2.5小时，当天即完成取件与送达，整体效率显著超越线上方式。该实例迅速引发热议，多位资深IT博主随
5月30日，华为推出了全新的AI模型——盘古UltraMoE，该模型的参数量达到了7180亿。作为一款接近万亿参数的MoE(MixtureofExperts)模型，它在整个训练过程中完全基于华为的昇腾AI平台完成，标志着华为在超大规模模型训练方面取得了重要进展。盘古UltraMoE的成功训练离不开盘古团队研发的一系列创新技术。例如，Depth-ScaledSandwich-Norm(DSSN)稳定架构的引入，显著改善了超大规模模型训练期间出现的梯度异常及
大语言模型面对加密数据，即便最新的Qwen3也会感到压力！尽管当下各类推理模型在多种基准测试中表现优异，但在密码学这样对逻辑严谨性和细节准确性要求极高的专业领域，模型的推理能力还有待深入挖掘。密码学不仅要求模型具备高级数学运算能力和严密的逻辑推理链，还需要其能够精准辨识复杂加密模式中的潜在规律；成功解密要求模型拥有极强的综合推理能力。上海AILab等联合推出的CipherBank测评，使用大量真实隐私场景数据和多种密码算法，严苛挑战当前最先进的大模型。CipherBank的测评结果显示，目前的大语言模型
现在，请大家一起来数一下"1"、"2"。OK，仅仅2秒的时间，一个接近万亿规模的MoE大模型就已经掌握了如何解答一道高等数学难题的方法！而且呢，这个大模型还是完全依靠国产设备进行训练的，整个流程都体现了浓浓的“国产”特色。这就是华为借助"昇腾+PanguUltraMoE"这一组合实现的成果——不仅达成了国产算力与国产模型在全流程上的自主可控训练闭环，还在集群训练系统的性能方面达到了行业顶尖水平。有多顶尖？来看一组数据：预训练阶段：昇腾Atlas800TA2万卡集群的MFU提升
只需动动嘴，就能操控GUI代理？由美团与浙江大学联合推出的GUIRoboTron-Speech——让你彻底解放双手，直接对设备“发号施令”。这是首个可以直接通过语音指令和屏幕截图进行端到端（End-to-End）决策的自主GUI智能体，致力于为用户提供更自然、高效且无障碍的人机交互方式。从文本到语音，智能代理的新一轮进化目前，基于大语言模型（LLMs）的自主GUI智能体已经能够通过文本指令自动完成跨应用、多步骤的复杂操作，显著提升用户效率。然而，这种依赖文本输入的方式在某些场景中存在明显局限
无论是专业摄影师还是摄影爱好者，相机内存储卡的可靠性都至关重要，尤其是在恶劣的拍摄环境中，数据存储的安全性更是不可忽视。尽管市场上有多种支持三防功能的移动存储设备用于数据备份，但最常用的SD存储卡由于采用塑料外壳，长期使用后容易出现破损，导致数据损坏，甚至可能损坏相机的存储卡槽，带来的损失不可估量。国际存储品牌雷克沙推出了全新的Armor系列SD存储卡，不仅读写速度快，还采用了不锈钢材质的外壳，具有优异的防水、防尘和防跌落性能，为相机的原始拍摄数据提供了可靠的保护。雷克沙ArmorSD存储卡分为GOLD
1.1计算机发展历程[计组]1.0_你好，我是计算机组成原理我们生活在一个信息化程度极高的世界中，我们每天的生活都离不开电脑和手机，这些设备实际上都属于计算机的范畴。计算机的底层结构由硬件构成，在硬件之上，我们会安装操作系统，再在操作系统上运行各种应用软件，这样就能得到一个易于使用的计算机系统。通过计算机网络，这些设备实现了信息的互联互通，这正是我们现在生活的信息化世界的缩影。计算机组成原理这门课研究的就是这些计算机硬件在底层如何协同工作。既然我们要研究硬件，不妨先来看一下大家日常生活中常见的一些硬件
近日，vivo的一项智能手表专利正式获得批准并公开展示。该专利采用模块化设计，通过磁力锁扣和滑动限位槽，用户可以手动调整传感器的位置，以确保健康数据的精准收集。vivo这项专利的核心亮点是其模块化结构。手表由可穿戴主体和可拆卸设备主体两部分组成，用户可以通过滑动限位槽和磁力锁扣，旋转或移动内部传感器模块，将其调整到最佳佩戴位置。这种设计有效提高了健康数据的监测准确性，如心率和血氧等关键指标。对于不同体型和佩戴习惯的用户来说，这种可调节性尤为重要，能够确保传感器与皮肤的紧密接触，减少因位置偏差导致的误差
本文参考自百问网-韦东山驱动大全，旨在探讨当前手机中常见的LCD屏幕。LCD与OLED的区别关于LCD和OLED的区别，可以参考以下链接：https://www.zhihu.com/question/22263252/answer/410201820不同接口的LCD硬件操作原理应用工程师眼中的LCDLCD由一个个像素组成，每行有xres个像素，共有yres行，其分辨率为xres*yres。只要我们能够控制任意一个像素的颜色，就可以在LCD上绘制文字和图片。像素的颜色表示像素的颜色通常用红绿蓝三色来表示
Windows 10 是一款微软推出的经典操作系统，拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起，适合需要持续观察和微调设备状态的场景。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
