当前位置:

首页 > prompt工程已死?Google DeepMind提出「视觉提示工程」新范式:比文本指令更有效

prompt工程已死?Google DeepMind提出「视觉提示工程」新范式:比文本指令更有效

GoogleDeepMind提出视觉提示工程(VIPE),将提示工程方法论扩展至视觉模态。通过将抽象草图转换为照片级真实场景,显著提升视频模型推理能力,效果优于文本提示工程。该方法可自动化,并与测试时扩展结合,进一步降低错误率。

提示工程,说白了就是通过优化输入来撬动模型输出的质量,这已经成为语言模型领域的基本功。一个共识是:只要模型的输入空间足够丰富,就一定有办法通过调整输入让下游任务表现更好。

那么,这个思路能不能跨界?比如,搬到视觉领域?

Google DeepMind 的最新论文给出了一个漂亮的答案——他们提出了“视觉提示工程”(visual prompt engineering,VIPE),把提示工程这套方法论成功延伸到了视觉模态。


论文链接:https://arxiv.org/abs/2607.25537

实验结果表明,这套视觉提示工程方法能在多个任务上显著提升视频模型的推理能力。更有意思的是,对视频模型而言,视觉提示工程有时比经典的文本提示工程或 test-time scaling 更管用。

就像文本提示工程能系统性地提升语言模型性能一样,视觉提示工程提供了一种简单、计算高效的手段,用来激发视频模型的视觉推理潜力。论文作者指出,这指向了一种新范式:视觉提示本身也可以像文本提示一样被优化。随着前沿视频模型能接收越来越丰富的多模态上下文,视觉提示工程很可能从单张图像编辑,扩展到多张参考图像甚至视频。

视觉提示工程:在新的视觉场景中处理同一问题

所谓视觉提示工程,就是针对视频模型视觉输入的一种提示工程方法。它的核心思路是:在不改变任务逻辑的前提下,把原始图像转换成模型更容易理解和推理的视觉形式——让模型在全新的视觉场景中处理同一个问题。举个例子,一个抽象的球和斜坡示意图,可以换成写实的台球和木板场景,但关键的空间关系必须保持一致。


图|视觉提示工程从一个视觉提示开始,例如一张球和斜坡的草图图像,以及“球沿着……滚下,最后落入其中一个桶里”这样的文本提示。

具体流程分为三步:

1. 构想器:负责规划图像怎么改。它会根据任务样本和约束,生成一段自然语言编辑指令。指令里明确哪些任务相关元素必须保留,比如物体数量、位置、朝向和相对关系。

2. 编辑器:根据指令修改原图,生成一个或多个候选图。这个步骤可以由图像编辑模型完成,也可以由人工编辑完成。

3. 筛选器:可选步骤。当编辑器生成多个候选图时,筛选器会从中挑出更合适的版本——优先选择图像质量更好、同时保留了原图任务关键信息的那一个。

比文本指令更有效

研究团队在 VPCT 物理推理任务上进行了测试,并验证了自动化视觉提示工程的效果。整体来看,视觉提示工程能提升视频模型的视觉推理表现,而且优化视觉上下文通常比优化文本指令更有效。下面几个关键发现值得关注。

1. 真正驱动性能提升的是视觉真实感

使用视觉提示工程后,Veo 3.1 的准确率从 41.3% 提升到 59.3%,Omni Flash 从 56.3% 提升到 67.5%。视频模型系统性地偏好照片级真实的上下文,而不是抽象输入。


图|视觉提示工程提升了 VPCT 上的物理推理能力。

2. 既可以自动化,也能作为有效的测试时扩展策略

视觉提示工程的自动化流程由视觉-语言模型(VLM)生成改写指令,图像编辑模型生成候选图,自动评分器负责筛选或反馈迭代。研究团队比较了自由形式构想和原子概念编辑(ACE)两条路线,结果两种方法都能自动生成更好的改写图像。自由形式视觉提示工程在部分任务上把错误率降低超过 75%。ACE 在 Sort 3 Numbers 任务上,如果按样本选择最佳视觉版本,错误率甚至可以降为 0。


图|自动化视觉提示工程在多种任务上都能提升性能。

在小球滚落物理推理任务中,未使用视觉提示工程时,Veo 3.1 通过多次采样从 41.3% 提升到 50.0%;加入视觉提示工程后,单次采样准确率就达到 59.3%。如果在视觉提示工程改写后的提示上继续进行多次采样,准确率可达 68.0%。


图|视觉提示工程还可以与测试时扩展结合,进一步提升性能。

3. 优化视觉上下文往往比优化文本指令更有效

以 Sort 3 Numbers 为例,最优文本提示和最优图像提示的准确率分别为 86% 和 76%。


图|对于视频模型而言,视觉提示工程可能比文本提示工程更有效。

4. 没有系统性提升原生图像生成模型的推理表现

研究团队测试了 Nano BananaPro、Nano Banana 2 等模型,结果显示,把输入换成照片级真实图像后,图像模型的推理性能并没有稳定提升。这可能是因为原生图像生成模型覆盖了更多视觉风格,对抽象草图和真实图像都更熟悉。


图|原生图像生成模型在 VPCT 上的结果,报告每种配置下的最佳提示结果。

5. 有效的图像改写通常具备三类特征:场景更真实、目标更突出、语义更直接

这类改写能够把抽象草图转换成更接近真实世界的视觉场景,从而减少抽象输入与视频模型熟悉视觉表征之间的差距。例如在 VPCT 任务上,将草图改写为照片级真实场景后,Veo 3.1 的准确率提升到 59.3%。因此,当同一任务可以转换为更真实的视觉场景时,应优先使用真实场景版本。


图|向真实感迈出的每一步都会提升生成一致性。

局限性

当然,视觉提示工程目前也有明显的短板。比如,它依赖图像编辑模型的质量——如果编辑器改变了任务信息或引入了伪影,下游视频模型可能就无法解决原始任务了。未来,如果图像编辑模型能更稳定地保留任务信息,额外的筛选和质量控制可能就不再需要。

另外,视觉提示工程会带来额外成本。不过,图像编辑通常比视频生成便宜得多,因此这项成本在实践中也可能转化为优势——一次便宜的图像编辑调用,可以降低一次昂贵视频生成失败的概率。

本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
相关文章 更多
荣耀MagicOS 11发布计划与Agent Harness架构解析
荣耀MagicOS 11发布计划与Agent Harness架构解析

荣耀MagicOS 11定于9月15日发布,作为行业首个商用系统级Agent Harness架构的操作系统,Magic 9系列将首发搭载。新版YOYO支持最长上百步长程任务及40余项条件触发,10月开启Beta预览版招募。

华强北手机全线涨价:涨幅400-1500元,存储成本推高售价
华强北手机全线涨价:涨幅400-1500元,存储成本推高售价

华强北销售商反馈,年初以来主流手机品牌基本全线涨价,涨幅最低400元,最高达1000-1500元。涨价主因是全球存储芯片及电容等元器件成本上升,运行内存与机身存储价格涨幅超100%。尽管整体市场承压,国产折叠屏手机1-8月销量约450万台(新形态超135万台,同比增29%),AI手机成为厂商发力重点。

索尼WH-1000XM4C发布:复刻经典折叠设计并升级现代接口
索尼WH-1000XM4C发布:复刻经典折叠设计并升级现代接口

索尼发布WH-1000XM4C头戴式降噪耳机,复刻了XM4的经典四向折叠便携设计。该机型在保留QN1处理器和30小时续航的基础上,全面升级了USB-C高速充电、无损音频直连、蓝牙多点连接及AI降噪通话功能,旨在满足对便携性有极高要求的用户群体。

OpenAI GPT-6 Astra 自主通关《传送门》:技术原理与实验成本解析
OpenAI GPT-6 Astra 自主通关《传送门》:技术原理与实验成本解析

OpenAI GPT-6 Astra 模型通过 MCP 协议与 SourcePauseTool 控制《传送门》游戏,完成 3336 次工具调用并自主通关。实验耗时约 24 小时,API 成本约 571 美元,展示了多模态 AI 在 3D 解谜领域的突破性进展。

AI重构企业业务架构:超聚变“智企”范式核心解析
AI重构企业业务架构:超聚变“智企”范式核心解析

本文解析超聚变在2026数博会发布的“智企”范式,重点阐述如何通过Token生产平台(Token Factory)与企业业务本体建模,实现从简单AI工具调用到企业应用架构系统性重构的演进。文章详细拆解了智能体编排、数字孪生及生态协同等关键技术路径,为AI时代企业数字化转型提供可落地的参考方案。

南邮光擎智算团队:GaN基Micro-LED光计算芯片从理论到流片的突破
南邮光擎智算团队:GaN基Micro-LED光计算芯片从理论到流片的突破

南京邮电大学“光擎智算”团队联合南京大学,攻克GaN基Micro-LED器件技术,成功搭建实验室级光计算验证系统。团队自主研发的5×5 Micro-LED光电计算阵列芯片已进入流片封装阶段,实现了图像识别等算力任务验证,推动光计算技术从理论走向工程落地。

微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案
微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案

微软于9月5日推出Project Zenith,旨在为Windows 11开发者提供更高效的AI开发体验。该项目目前仅支持配备超过64GB统一内存及250GB/s内存带宽的特定硬件,首发适配AMD Ryzen AI Halo设备。通过此项目,开发者可在本地运行参数超过300亿的AI模型,后续将分阶段扩展至更多合作伙伴设备。

贵州省住建厅与贝壳集团签署旅居战略合作:五大维度落地方案解析
贵州省住建厅与贝壳集团签署旅居战略合作:五大维度落地方案解析

9月3日,贵州省住建厅与贝壳集团在贵阳签署《旅居产业发展战略合作框架协议》,旨在打造全国旅居样板。合作涵盖平台建设、标准共建、人才培育、存量资产盘活及品牌推广五大维度,依托贝壳近600家门店及4000余名经纪人资源,强化贵州旅居服务供给,促进房地产市场平稳健康发展。

上海链家安住APP:业主主动卖房功能与成交数据解析
上海链家安住APP:业主主动卖房功能与成交数据解析

本文解析上海链家推出的“安住APP”功能,该工具允许业主在贝壳/链家挂牌后主动管理房源。通过实时查看销售进展、发送看房邀约及获取AI策略,业主可缩短成交周期。数据显示试点期间平均成交7天,最短1天。适用于希望提高信息透明度、主动参与卖房过程的业主。

打破流量垄断,让平台经济释放普惠红利
打破流量垄断,让平台经济释放普惠红利

2026年6月工信部等七部门印发《促进平台经济大中小企业协同发展行动方案》,明确平台经济是数字技术赋能的实体经济。针对流量垄断与“数字租金”问题,专家主张治理重心应从静态整改转向推动平台能力向中小企业外溢,通过算法透明、接口开放及数据可迁移,打破封闭生态,实现创新与规范并重的高质量发展。

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件
macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

Mac软件 更多
灵活计算器
灵活计算器
macOS/iOS/Android

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师
macOS

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

WINDOWS 更多
Windows 10
Windows 10
Windows

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘
Windows/macOS/iOS/Android

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。