旷视开源支持文档级OCR的多模态大模型，中英文全面支持，是否意味着OCR终结了？
想将一份文档图片转换成Markdown格式？以往这一任务需要文本识别、布局检测和排序、公式表格处理、文本清洗等多个步骤——这一次，只需一句话命令，多模态大模型Vary直接端到端输出结果：图片无论是中英文的大段文字：图片还包含了公式的文档图片图片又或是手机页面截图：图片甚至可以将图片中的表格转换成latex格式：图片当然，作为一个多模大型模型，保持通用能力是必不可少的图片Vary表现出了很大的潜力和极高的上限，OCR可以不再需要冗长的pipline，直接端到端输出，且可以按用户的prompt输出不同的格式如
想将一份文档图片转换成Markdown格式？
以往这一任务需要文本识别、布局检测和排序、公式表格处理、文本清洗等多个步骤——
这一次，只需一句话命令，多模态大模型Vary直接端到端输出结果：
图片
无论是中英文的大段文字：
图片
还包含了公式的文档图片
图片
又或是手机页面截图：
图片
甚至可以将图片中的表格转换成latex格式：
图片
当然，作为一个多模大型模型，保持通用能力是必不可少的
图片
Vary表现出了很大的潜力和极高的上限，OCR可以不再需要冗长的pipline，直接端到端输出，且可以按用户的prompt输出不同的格式如latex 、word 、markdown。
通过强大的语言先验，这种架构可以避免OCR中的易错字，如“杠杆”和“杜杆”等。对于模糊文档，借助语言先验的帮助，也有望实现更强的OCR效果
引发了不少网友的关注的项目一经推出，立即引起了广泛讨论。其中一位网友在看到后直呼“杀爆了！”
图片
这样的效果是如何实现的呢？
受大模型启发打造
目前的多模态大模型几乎都是用CLIP作为Vision Encoder或者说视觉词表。确实，在400M图像文本对训练的CLIP有很强的视觉文本对齐能力，可以覆盖多数日常任务下的图像编码。
但是对于密集和细粒度感知任务，比如文档级别的OCR、Chart理解，特别是在非英文场景，CLIP表现出了明显的编码低效和out-of-vocabulary问题。
纯NLP大模型（如LLaMA）从英文过渡到中文（对大模型来说是“外语”）时，因为原始词表编码中文效率低，必须要扩大text词表才能实现较好的效果。
研究团队从中得到了启发，正是因为这一特点
现在基于CLIP视觉词表的多模态大模型，面临着同样的问题，遇到“foreign language image”，如一页论文密密麻麻的文字，很难高效地将图片token化。
Vary是为解决这个问题而提供的一种解决方案，它可以在不重新建立原有词表的情况下，高效地扩充视觉词表
图片
不同于现有方法直接用现成的CLIP词表，Vary分两个阶段：
首先，我们将在第一阶段使用一个小型的仅解码器网络，以自回归的方式生成一个强大的新视觉词表
接下来，在第二阶段将新词表和CLIP词表进行融合，以便高效地训练LVLM并赋予其新的特性
以下是Vary的训练方法和模型结构图示：
图片
通过在公开数据集以及渲染生成的文档图表等数据上训练，Vary极大增强了细粒度的视觉感知能力。
在保持vanilla多模态能力的同时，激发出了端到端的中英文图片、公式截图和图表理解能力。
另外，研究团队注意到原本可能需要几千tokens 的页面内容，通过文档图片输入，信息被Vary压缩在了256个图像tokens中，这也为进一步的页面分析和总结提供了更多的想象空间。
目前，Vary的代码和模型均已开源，还给出了供大家试玩的网页demo。
感兴趣的小伙伴可以去试试了～
在Mac系统上想要查看Safari浏览器的页面源代码，默认情况下是看不到这个选项的，需要先开启一个隐藏功能。其实操作并不复杂，几步就能搞定，下面直接说步骤。 1、先在Mac桌面上点击打开Safari浏览器。 2、在顶部菜单栏里点击Safari，然后选择“偏好设置”进入。 3、在偏好设置的窗口里，找到
5月30日，华为推出了全新的AI模型——盘古UltraMoE，该模型的参数量达到了7180亿。作为一款接近万亿参数的MoE(MixtureofExperts)模型，它在整个训练过程中完全基于华为的昇腾AI平台完成，标志着华为在超大规模模型训练方面取得了重要进展。盘古UltraMoE的成功训练离不开盘古团队研发的一系列创新技术。例如，Depth-ScaledSandwich-Norm(DSSN)稳定架构的引入，显著改善了超大规模模型训练期间出现的梯度异常及
AI视频生成正迎来属于“通义”的高光时刻！就在昨晚，阿里巴巴悄然推出了一款由音频驱动的14B视频大模型——Wan2.2-S2V。只需上传一张静态图片和一段音频，就能生成出面部表情生动、口型精准匹配、肢体动作流畅自然的电影级数字人视频，效果惊艳。实际效果展示如下：△来自@AIMIRAI46487更令人振奋的是，这款新模型一经发布便全面开源，现在所有人都可以免费在通义万相官网体验使用。据官方介绍，Wan2.2-S2V的核心优势包括：支持最长分钟级的单次视频生成，画面稳定且具有一致性；具备影院级别的音
近日，有汽车领域博主爆料，特斯拉的FSD（完全自动驾驶）辅助系统将迎来一次重要升级，或将实现更真实的环境场景还原。在最新曝光的软件代码中，发现了大量新增的渲染模型，涵盖多种车辆与行人类型。这些新增模型包括救护车、消防车、垃圾清运车、校车、半挂式卡车、高尔夫球车、骑电动滑板车的行人、使用轮椅的行人、玩滑板的行人、推婴儿车的行人，以及道路清扫车、三轮车、拖车、火车和有轨电车等。这一系列高精度建模意味着FSD系统将能更准确识别并响应复杂交通参与者的行为。据CNMO掌握的消息，日本方面已为特斯拉FSD系统的落地扫
扫描版合同转Word的核心是OCR技术，推荐三种工具：AdobeAcrobatProDC专业性强但价格高；ABBYYFineReaderPDF识别准确且支持多语言；i2OCR在线工具适合偶尔使用。选择时应根据需求权衡准确率、价格与易用性，并注意OCR后的校对与排版调整以确保文档质量。OCR还可用于书籍、名片等数字化，提升工作效率。
要实现PHP批量OCR，首先选择OCR引擎如百度OCR或Tesseract-OCR，接着用PHP脚本循环读取文件并调用OCR接口识别内容，最后存储结果；优化效率可通过并行处理、图像预处理、选择合适引擎和调整API参数实现；数据清洗需定义规则并使用字符串函数或NLP技术处理噪声；常见错误应检查API配置、控制请求频率、分批处理内存问题及统一编码。
大语言模型面对加密数据，即便最新的Qwen3也会感到压力！尽管当下各类推理模型在多种基准测试中表现优异，但在密码学这样对逻辑严谨性和细节准确性要求极高的专业领域，模型的推理能力还有待深入挖掘。密码学不仅要求模型具备高级数学运算能力和严密的逻辑推理链，还需要其能够精准辨识复杂加密模式中的潜在规律；成功解密要求模型拥有极强的综合推理能力。上海AILab等联合推出的CipherBank测评，使用大量真实隐私场景数据和多种密码算法，严苛挑战当前最先进的大模型。CipherBank的测评结果显示，目前的大语言模型
强化学习（RL）结合真实搜索引擎可以显著提升大模型的检索和推理能力。然而，这一方法面临两大挑战：搜索引擎返回的文档质量不稳定，导致训练过程中的噪音和不稳定性；RL训练需要频繁部署，产生大量API开销，限制了可扩展性。针对这些问题，阿里通义实验室推出了开源解决方案ZeroSearch，这是一个无需与真实搜索引擎交互的强化学习框架。实验表明，ZeroSearch只需使用3B参数的LLM作为检索模块，就能有效提升搜索能力，并大幅节省API成本。ZeroSearch让LLM实现自给自足
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
