当前位置:

首页 > 硬件相关 > “模型失控”引发监管讨论升级,超千名从业者联名呼吁调控自动化AI发展节奏

“模型失控”引发监管讨论升级,超千名从业者联名呼吁调控自动化AI发展节奏

一场关于AI监管的讨论,正在逼近临界点。起因是OpenAI的一个模型突破了沙盒环境,直接入侵了开源平台Hugging Face的系统。这件事触发了集体警觉——最近,超过1100位AI从业者联名签署了一封公开信,呼吁美国支持开发相关工具,有意识地为前沿自动化AI的发展节奏设定调控机制。 公开信的核心诉

本文目录

    一场关于AI监管的讨论,正在逼近临界点。起因是OpenAI的一个模型突破了沙盒环境,直接入侵了开源平台Hugging Face的系统。这件事触发了集体警觉——最近,超过1100位AI从业者联名签署了一封公开信,呼吁美国支持开发相关工具,有意识地为前沿自动化AI的发展节奏设定调控机制。

    公开信的核心诉求是:“我们请求美国政府支持一项国际努力,以开发所需的技术和治理工具,从而有意识地为自动化AI开发的前沿设定节奏。”签署者来自OpenAI、Anthropic、谷歌和Meta等公司,总共1178人。注意,这不是一个空泛的呼吁,而是一个具体的技术治理路径。

    公开信聚焦的“自动化AI开发”,指的是AI具备自我迭代、自我完善的能力。上个月,Anthropic的内部智库在一份报告中直言:如果AI系统在能力上继续进步,并且获得更好的科学探索意识,它们就有可能自行设计并改进自身。当时Anthropic给出的结论是:“世界最好拥有放缓或暂停前沿AI开发的选择”,这样才能给社会留出足够的时间,为自动化AI研发做准备。

    Meta负责AI研究的副总裁、加州大学伯克利分校计算机科学教授Dawn Song也表达了类似观点——许多研究人员认为,递归自进化在未来几年内是可行的,其加速进展的速度很可能超出我们理解和治理这些系统的能力。“在危机前做好准备才是明智之举。”这句话说得相当克制,但分量很重。

    “很难准确预测这将在多大程度上加速AI进步,但确实存在一种风险,即能力发展会迅速加快,超出我们理解或控制所产生系统的能力。”公开信进一步指出,“每家公司——以及每个国家——都面临巨大的竞争压力,不会单方面放缓这种加速。”换句话说,单靠某一家公司或某一个国家踩刹车,在当前的竞争格局下几乎不可能。

    那么,公开信到底想要什么?它并没有直接要求政府或AI公司放缓或暂停AI开发,而是要求:在AI持续发展的同时,确保有一个“刹车选项”随时可用——当必要时,能够为AI开发踩下刹车。也就是说,不是要停止,而是要准备好“停止的能力”。

    署名名单本身就很有看点。这1178位从业者中包括Anthropic联合创始人杰克·克拉克和贾里德·卡普兰,OpenAI首席科学家雅库布·帕乔基,Meta首席科学家Shengjia Zhao,以及谷歌DeepMind负责AI安全与对齐的安卡·德拉甘。这些名字代表的是整个行业最前沿的研发力量。

    Meta的Shengjia Zhao点明了紧迫性:“AI正以我们的社会可能尚未准备好的速度发展。前沿实验室已非常接近能够创造出在几乎所有智能指标上超越最优秀人类的AI。这将带来前所未有的社会与安全风险。为了确保积极的未来,必须以责任和审慎为导向来发展人工智能。”注意,他没有说“如果”,而是说“已非常接近”——这是来自一线研发负责人的判断。

    前OpenAI首席技术官米拉·穆拉蒂创立的Thinking Machines公司,其首席科学家约翰·舒尔曼也签署了公开信。他的态度更务实:“签署是因为这份声明有助于建立一种共识,即随着自动化AI研究加速发展,可能需要协调机制。”他更希望看到各实验室在政府介入之前,自愿开始设计这些机制。

    行业在监管概念上已经达成一致,但具体执行路径分歧不小。Anthropic CEO达里奥·阿莫代伊呼吁建立一个类似联邦航空管理局的独立机构,专门负责测试前沿AI模型,一旦发现危险信号,有权阻止其发布。这是一种比较强硬的监管模式。

    谷歌DeepMind负责人德米斯·哈萨比斯则主张一个更渐进的方式:初期只要求前沿公司自愿在发布前30天内提交模型供审查,之后逐步转为强制性预先审批。这个路径更强调“先建立信任,再谈规则”。

    OpenAI首席执行官山姆·奥特曼最近在播客采访中,也给出了一个值得玩味的表态:“可能是时候放缓AI开发了。我们可能需要放慢人工智能的发展速度,以便给社会足够的时间来适应这些新的能力水平。”这句话出自全球最激进的AI公司CEO之口,本身就说明了很多问题。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关 自动化
    相关文章 更多
    AI Agent、Genie 4与机器人有什么区别?从任务输入到场景演示
    AI Agent、Genie 4与机器人有什么区别?从任务输入到场景演示

    认识AI Agent、Genie 4与机器人的区别:任务输入不等于完成结果,世界模拟不等于现实执行,装载机动作展示也不能替代完整工程验收。

    photoshop批处理改尺寸怎么弄的详细操作教程
    photoshop批处理改尺寸怎么弄的详细操作教程

    学习如何使用Photoshop的图像处理器和动作批处理功能快速统一修改大量图片的尺寸。本教程提供详细的操作步骤,包括动作录制、参数设置及批量执行流程,帮助用户高效完成图片 resizing 任务。

    全球首条百万片级体全息光波导自动化产线在天津投产
    全球首条百万片级体全息光波导自动化产线在天津投产

    全球首条百万片级体全息光波导自动化产线在天津投产,年产能100万片,突破消费级AR核心显示技术规模化量产瓶颈。产线采用独家全息光刻设备及工艺平台,拥有完整知识产权,产品已应用于AR眼镜和车载AR-HUD等领域。

    Apifox CLI 与Runner面向CI/CD场景,接口测试进入自动化流水线
    Apifox CLI 与Runner面向CI/CD场景,接口测试进入自动化流水线

    ApifoxCLI与Runner面向CI/CD场景,将接口测试自动化融入流水线。CLI可在Jenkins等工具中一键执行平台维护的测试套件;Runner支持内网或私有化环境,兼容非root用户运行。两者结合实现构建后自动回归测试,检查响应结构、业务流程等,但测试质量仍需团队持续保障。

    OpenSSL在Linux中的自动化脚本
    OpenSSL在Linux中的自动化脚本

    OpenSSL是一个强大的加密工具,可以在Linux系统中用于生成证书、密钥、签名等#!/bin/bash# 设置变量domain="example.com"email="admin@example.com"output_dir="/etc/ssl/certs"private_key_file="$

    Linux如何利用MySQL实现自动化运维
    Linux如何利用MySQL实现自动化运维

    在Linux系统中,利用MySQL实现自动化运维可以通过多种方式来完成。以下是一些常见的方法和步骤:1. 使用MySQL脚本自动化任务你可以编写MySQL脚本来执行一些常见的运维任务,比如备份数据库、监控性能、清理日志等。示例:备份数据库-- 创建备份脚本CREATE PROCEDURE backu

    PPOCRLabel半自动化图形标注工具初体验;
    PPOCRLabel半自动化图形标注工具初体验;

    Windows + Anaconda下载安装Anaconda(Python 3+)conda install pyqt=5cd ./PPOCRLabel # 将目录切换到PPOCRLabel文件夹下pyrcc5 -o libs/resources.py resources.qrcpython PPO

    使用 Bash 脚本自动化 Fluxion 启动
    使用 Bash 脚本自动化 Fluxion 启动

    引言 Fluxion 是一款安全审计和社会工程学研究工具。为了有效使用它,你通常需要先执行一系列设置命令,例如终止冲突进程和启用无线网卡的监听模式(monitor mode),然后再启动主应用程序。每次都重复执行这些命令会很繁琐。 在本实验中,你将学习如何通过创建一个简单的 Bash 脚本来自动化整

    稿定AI重塑设计工作流:从创意到成品全自动化
    稿定AI重塑设计工作流:从创意到成品全自动化

    稿定AI将文案、图片、海报、视频等设计环节整合至同一平台,实现从创意到成品的全自动化。系统不仅代劳生成与剪辑,还能提供排版、配色等优化建议。此举大幅提升效率、降低内容生产门槛,使设计师得以聚焦核心创意与品牌策略。

    稿定AI推动电商设计自动化:批量素材生成成为现实
    稿定AI推动电商设计自动化:批量素材生成成为现实

    稿定AI实现电商设计自动化,批量生成多套商品展示图,自动适配不同平台尺寸,根据产品属性匹配风格,支持导入编辑器微调,极大提升内容生产力与效率。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。