路透社实测发现,Meta检测工具面对裁剪后的自家AI生图竟“失灵”
路透社测试发现,Meta新推出的AI图像检测工具在识别裁剪后的自家生成图片时效果不佳。原图全被识别,但裁剪至三分之一到一半后,55%的图片无法通过验证,原因在于隐形水印ContentSeal在大幅裁剪后信号丢失。Meta承认该工具仍为预览版。
路透社在7月10日披露的测试结果,给Meta刚发布的AI图像检测工具泼了一盆冷水。这款工具号称能识别自家AI模型生成的图片,甚至声称裁剪后也不影响判断——但实际测试却发现,真相远没那么乐观。
Meta在推出Muse Image模型的同时,也带来了这款检测工具,并且明确表示:即使图片被裁剪过,系统依然能认出它是不是Meta AI的手笔。然而,路透社的实测结果揭示了一个尴尬的现实——常见的图片修改操作,就足以让检测能力大打折扣。
测试过程很简单:路透社先用Muse Image生成了40张图片,然后让检测工具去识别。结果呢?所有原图都被精准识别,一个不落。但随后,同一批图片被裁剪到原图大小的三分之一到二分之一时,情况急转直下——足足55%的图片无法通过验证。
这背后的关键,是Meta嵌入在每张生成图片中的隐形水印,名为Content Seal。按照Meta当初的说法,这套水印系统能够让检测工具准确判断图片是否由自家AI生成,哪怕经历裁剪也能保留信号。但路透社的测试表明,裁剪幅度一旦过大,水印信号就会丢失,检测工具也就随之失效了。
面对质疑,Meta的回应倒也坦诚:这款检测工具目前仍是预览版本,尚在完善中。Content Seal的设计目标是在常见编辑操作后仍能保留水印信号,但大幅裁剪确实会带来信号丢失的风险。换句话说,工具能用,但别指望它无懈可击。
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。
















