当前位置:

首页 > 业界资讯 > AI可能灭绝人类?AI领域权威人士呼吁监管

AI可能灭绝人类?AI领域权威人士呼吁监管

自生成式人工智能以大有横卷之势席卷各行各业,AI对人类的挑战与威胁也逐渐引发人们的担忧。近日,据彭博社报道,非营利组织人工智能安全中心(CenterforAISafety)发布了一份仅22个字的简短声明:将把减轻人工智能带来的灭绝风险与流行病、核战等社会问题放在同一高度,成为全球优先事项。据悉,该声明是由超过350名人工智能领域的行业高管、专家和教授联名签署并发布在非营利组织人工智能安全中心(CAIS)的网站上,其中签署者包括OpenAI首席执行官山姆・奥特曼(SamAltman)、“AI教父”杰弗里・辛

本文目录

    自生成式人工智能以大有横卷之势席卷各行各业,AI对人类的挑战与威胁也逐渐引发人们的担忧。

    近日,据彭博社报道,非营利组织人工智能安全中心(Center for AI Safety)发布了一份仅22个字的简短声明:将把减轻人工智能带来的灭绝风险与流行病、核战等社会问题放在同一高度,成为全球优先事项。

    AI可能灭绝人类?AI领域权威人士呼吁监管

    据悉,该声明是由超过350名人工智能领域的行业高管、专家和教授联名签署并发布在非营利组织人工智能安全中心(CAIS)的网站上,其中签署者包括OpenAI首席执行官山姆・奥特曼(Sam Altman)、“AI 教父”杰弗里・辛顿(Geoffrey Hinton)、2018 年图灵奖得主约书亚・本希奥(Youshua Bengio)、Google DeepMind 首席执行官戴米斯・哈萨比斯(Demis Hassabis)等等。

    事实上,此前5月16日,OpenAI创始人Sam Altman在美国国会就人工智能技术的潜在危险参加听证会时,就明确呼吁政府应该对生成式人工智能进行监管和干预,其称“对人工智能的监管是必不可少的,对于一项非常新的技术,我们需要一个新的框架”。所以其身影出现在此次联名签署,并不让人觉得意外。

    AI可能灭绝人类?AI领域权威人士呼吁监管

    (图源自网络)

    除了业界对生成式人工智能发展的无序状态感到担忧,政界方面也同样如此。此前有消息称,5月21日,七国集团(G7)领导人就制定和建立人工智能技术标准做出呼吁,敦促行业和监管者要确保人工智能“值得信赖”,因为目前的技术治理尚未跟得上人工智能的发展步伐。而欧盟本月也已经几乎通过一项关于人工智能技术监管的立法,有望成为全球首部全面的人工智能法案。

    编辑点评:倒也不必视新技术的诞生如洪水猛兽,每一轮新技术的变革往往都是机遇与风险并存的。当然,在避免扼杀创新之余,对新技术进行适当的监管也是很有必要的。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    业界资讯
    相关文章 更多
    中、美、欧罕见达成一致,在伦敦签署AI监管宣言,俄罗斯被排除出局
    中、美、欧罕见达成一致,在伦敦签署AI监管宣言,俄罗斯被排除出局

    据悉,随着AI技术的深入发展,全球多国专家在今年5月联名提交了要求“重视人工智能发展和监管”的信函;随后以英美为代表的西方国家宣布开启全球首届AI峰会,旨在应对人工智能发展带来的风险问题。所以这次在伦敦召开的峰会主要涉及“AI立法”问题,英媒在报道中也不加掩饰地表示“必须要由民主价值观国家国家主导人工智能的发展”,暗示这场会议的发展方向。而临近会议前夕,是否邀请中国参加又成为了颇受争议的问题,英国内部甚至爆发了一场争论。消息提到,中国是全球人工智能发展排行前列的国家,苏纳克政府此前放风表示他们考虑让中国“

    IBM首席执行官和董事长提出AI监管的三个核心原则
    IBM首席执行官和董事长提出AI监管的三个核心原则

    (全球TMT2023年9月27日讯)人工智能(AI)的影响深远且重要。预计到2030年,AI将提升人类生产力,创造价值高达16万亿美元。然而,AI的滥用和风险也是存在的。IBM董事长兼首席执行官ArvindKrishna敦促政策制定者立即开始制定智能监管政策。AI的监管应该基于三个核心原则:重点监管AI的风险而非算法;让AI的开发者和使用者承担责任而非免责;支持开放式的AI创新而非采用AI许可制度IBM董事长兼首席执行官ArvindKrishnaIBM致力于推动负责任的人工智能(AI)发展。WatsonX

    Meta和OpenAI公司CEO公开支持欧盟推行AI监管方案
    Meta和OpenAI公司CEO公开支持欧盟推行AI监管方案

    6月25日消息,Meta公司负责人马克・扎克伯格(MarkZuckerberg)、OpenAI首席执行官萨姆・阿尔特曼(SamAltman)公开表示,支持欧盟市场专员蒂埃里・布雷顿(ThierryBreton)推动的人工智能技术监管方案。扎克伯格和布雷顿在一场会议中,就政府评估AI风险、以及监管AI技术发展达成一致意见。阿尔特曼随后也表示支持欧盟的AI监管方案,IT之家翻译如下:“我很感谢欧盟机构的重视和远见,期待与您[布雷顿]合作,帮助您在欧洲推行满足本土市场需求的服务”。布雷顿还会见英伟达首席执行官黄

    DeepSeek V4.1 Flash 1017:Agent榜单指标与编程评测表现
    DeepSeek V4.1 Flash 1017:Agent榜单指标与编程评测表现

    了解DeepSeek V4.1 Flash 1017的Agent Arena指标、约0.20美元任务成本中位数,以及Terminal-Bench 4.0和ProgramBench成绩变化与适用边界。

    DeepSeek模型权重与DeepInfer有什么区别?开源对象和生态协作
    DeepSeek模型权重与DeepInfer有什么区别?开源对象和生态协作

    了解DeepSeek模型权重与DeepInfer推理框架的对象差异,查看官方项目入口,并从价格竞争、开发者协作和小团队参与三个角度理解开源策略。

    幻方与DeepSeek:萤火二号算力积累和V3训练硬件怎么区分?
    幻方与DeepSeek:萤火二号算力积累和V3训练硬件怎么区分?

    理清幻方量化与DeepSeek的发展脉络,关键在于区分早期萤火二号的A100集群积累与DeepSeek-V3的H800训练配置。本文解析软硬件协同工程在其中的作用,避免将资金投入简单等同于模型能力。

    Kimi K3.1 Pro、SKY-001与Mercury 3:用途与评测指标
    Kimi K3.1 Pro、SKY-001与Mercury 3:用途与评测指标

    了解 Kimi K3.1 Pro 案例费用、SKY-001 零件构建耗时和 Mercury 3 测试表的限定条件,查看经核实的官方产品说明入口。

    laper ai什么工资薪资待遇与岗位收入查询教程
    laper ai什么工资薪资待遇与岗位收入查询教程

    想了解Laper AI的真实工资待遇?本文教你如何通过多渠道交叉验证岗位薪资,识别招聘话术中的水分,获取更准确的收入预期参考。

    豆包、火山引擎与TRAE有什么区别?视频生成与办公用途导览
    豆包、火山引擎与TRAE有什么区别?视频生成与办公用途导览

    解析字节旗下豆包App、火山引擎、Seedance、TRAE及飞书的定位差异。通过官方文档核对云服务、视频模型、编程工具与办公AI的功能边界,帮助读者准确选择适合的产品入口。

    AI Agent、Genie 4与机器人有什么区别?从任务输入到场景演示
    AI Agent、Genie 4与机器人有什么区别?从任务输入到场景演示

    认识AI Agent、Genie 4与机器人的区别:任务输入不等于完成结果,世界模拟不等于现实执行,装载机动作展示也不能替代完整工程验收。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。