当前位置:

首页 > 硬件相关 > Meta挖走Virtue AI核心团队,超级智能安上核心「安全阀」

Meta挖走Virtue AI核心团队,超级智能安上核心「安全阀」

Meta从AI安全初创公司VirtueAI挖走三位创始人及核心团队,将其编入超级智能实验室,弥补安全短板。团队专注对抗式机器学习、红队测试与有害输出拦截,曾在模型训练和部署各阶段构建防线。此举反映前沿模型公司正将安全治理内化,以应对模型强大后日益复杂的安全风险。

本文目录

    “前沿大模型越来越不相信「局外人」。”

    Meta的超级智能实验室,又完成了一次关键的人才引进。

    事情要从一笔看似低调的招聘说起。据外媒报道,Meta近期从企业级AI安全初创公司Virtue AI挖走了三位创始人及其核心团队成员,并将整个团队编入自家的超级智能实验室(MSL)。这笔交易更接近“收购式招聘”,具体金额和条款目前尚未披露。

    被挖来的Virtue AI创始人李博和宋晓冬,将直接向Nat Friedman汇报。这位前GitHub CEO现在是MSL的联合负责人,同时掌管着实验室旗下的“产品与应用研究”团队。

    李博和宋晓冬,并非典型的创业者,而是AI安全领域久经沙场的研究者。李博曾任伊利诺伊大学厄巴纳-香槟分校的计算机科学教授,长期专注于大模型的安全与可信性研究;宋晓冬则是加州大学伯克利分校的计算机科学教授、麦克阿瑟“天才奖”得主,在网络安全和AI安全领域深耕超过二十年。

    Meta这次挖角,绝不仅仅是多了几位AI人才那么简单。从战略层面看,这本质上是给自己的超级智能计划补上了安全这块短板。

    Virtue AI这家公司,本身就是做企业级AI安全和治理的,创始团队在对抗式机器学习领域有深厚的积累。通俗点说,他们干的事情不是教模型怎么更好地回答问题,而是让模型在复杂、甚至充满恶意和不可控的环境下,尽量少犯错、少被攻击、少输出有害内容。

    这种能力,在今天这场AI竞赛中,早已不是可有可无的边缘功能。

    Virtue AI此前推出过一套AI安全产品,包括用于自动化红队测试的VirtueRed,以及用于实时拦截有害输出的VirtueGuard。前者主要用来发现提示注入、越狱这类模型漏洞,后者则更像是部署在模型输出链路上的安全阀,帮助企业降低实际部署中的风险。

    对于Meta来说,这正是它接下来无论如何也绕不开的一环。MSL实验室成立的目标,是整合Meta内部AI研究力量(包括Llama开源模型和FAIR研究团队),朝着更强大的前沿模型乃至所谓的“超级智能”推进。

    但模型越强大,安全问题就越不可能单纯靠外部工具来解决。这也正是Virtue AI团队真正值钱的地方——他们不是普通的AI应用团队,而是一支长期研究模型攻击、防御、评估和治理的安全团队,其成员甚至参与过MMLU基准测试的开发。这些经验意味着,Meta可以在模型训练、测试、上线和产品化的每一个阶段,提前建立起更完整的安全防线。

    这件事背后,折射出行业风向正在发生一个显著的转变。

    前沿模型公司不再满足于把安全能力外包出去,而是开始把治理、内容过滤、风险评估这些关键能力全都收回自己手里。原因很简单:模型能力越强,安全问题就越复杂。

    对Meta而言尤其如此——它一边押注开源模型,一边又计划把AI能力广泛接入消费级产品。开源带来扩散优势的同时,也带来了更复杂的滥用风险;消费级产品意味着巨大的用户规模,任何安全失误都会被快速放大,后果相当棘手。


    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关
    相关文章 更多
    扎克伯格承诺Meta今年不会再裁员:未来可能更艰难
    扎克伯格承诺Meta今年不会再裁员:未来可能更艰难

    Meta多轮裁员致员工士气降至冰点,上月裁员约8000人。幸存员工被迫承担AI训练杂活,对CEO扎克伯格提出的黑客松活动反应冷淡。扎克伯格承诺今年不再裁员,但承认可能犯更多错误。

    Meta 士气跌至历史冰点,高管承认管理失误并推零食福利试图挽回
    Meta 士气跌至历史冰点,高管承认管理失误并推零食福利试图挽回

    Meta首席技术官承认员工士气跌至历史最低点,源于AI转型中裁员8000人及强制调派员工从事枯燥数据标注。管理层致歉并推出涨零食预算、限制管理幅度等福利,但外界对效果持保留态度。

    Meta 新 AI 团队已在内部交付首批关键模型
    Meta 新 AI 团队已在内部交付首批关键模型

    Meta新AI团队MSL成立不到半年,已完成首批核心模型内部交付并进入测试阶段,涵盖文本与图像处理能力。工程化落地仍是难点,公司已重组架构、引进人才并集中资源,计划2026至2027年推出搭载自主AI的终端产品,包括Ray-BanDisplay智能眼镜,目前暂停海外铺货以保障美国订单。

    Meta推出60美元不锈钢快充底座为智能眼镜充电
    Meta推出60美元不锈钢快充底座为智能眼镜充电

    Meta推出一款60美元不锈钢充电底座,专为雷朋联名款及OakleyMetaHSTN智能眼镜设计,但不支持雷朋Display。底座重108克,支持20分钟充至50%、一小时充满,采用USB-C接口但需自备充电线,主打随手一放的便捷体验。

    Meta收回工程师强制调入AI团队指令,承认重组存在决策失误
    Meta收回工程师强制调入AI团队指令,承认重组存在决策失误

    Meta收回强制工程师加入AI团队的指令,承认重组存在失误。此前调动7000名员工,现改为尊重个人选择,并给予调岗优先安置权。员工曾抱怨工作类似数据标注,士气跌至近二十年最低。

    AI早报 |豆包大模型2.1 Pro正式发布;Meta推出299美元智能眼镜新系列Meta
    AI早报 |豆包大模型2.1 Pro正式发布;Meta推出299美元智能眼镜新系列Meta

    豆包大模型2.1Pro正式发布,多项基准测试接近GPT-5.5等水平,日均Tokens调用量达180万亿。Meta推出299美元智能眼镜新系列。甲骨文上财年裁员约2.1万人,部分岗位被AI取代。高通拟40亿美元收购AI芯片初创公司Modular。

    Meta因数据安全问题暂停一项训练AI的内部计划
    Meta因数据安全问题暂停一项训练AI的内部计划

    Meta公司近日暂停了一项内部计划,该计划原拟通过追踪员工鼠标移动及数字活动来训练AI模型,但由于存在数据安全漏洞——敏感数据可被所有员工访问,已承认正就此展开调查,但未透露暂停将持续多久。

    Meta收紧内部AI工具使用政策 害怕蒸馏进自家产品
    Meta收紧内部AI工具使用政策 害怕蒸馏进自家产品

    Meta公司今年五月发布内部指南,严格禁止工程师使用Anthropic的ClaudeCode和OpenAI的Codex等外部AI工具生成编程挑战、分析安全漏洞或测试自家模型,以防模型蒸馏引发法律纠纷与事态升级。

    Meta 利用自研芯片在新服务器中重复使用旧 DDR4 内存
    Meta 利用自研芯片在新服务器中重复使用旧 DDR4 内存

    Meta公司自主研发的Vistara定制芯片,利用CXL2.0和PCIeGen5接口,将退役服务器中的DDR4内存接入新一代DDR5服务器,从而延长硬件使用寿命、降低资本支出。这一方案计划部署于超大规模AI数据中心,有效缓解内存资源紧缺与浪费问题。

    Meta被曝使用AI取代人工审核员 大模型已接管50%请求
    Meta被曝使用AI取代人工审核员 大模型已接管50%请求

    Meta正用大语言模型替代人工内容审核,已接管约50%的审核请求,每年可节省数十亿美元。计划年底进一步减少人工参与,部分内容的人工审核比例可能削减超90%。同时扎克伯格投入巨资开发个人超级智能技术。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。