AI可能灭绝人类？AI领域权威人士呼吁监管

自生成式人工智能以大有横卷之势席卷各行各业，AI对人类的挑战与威胁也逐渐引发人们的担忧。

近日，据彭博社报道，非营利组织人工智能安全中心（Center for AI Safety）发布了一份仅22个字的简短声明：将把减轻人工智能带来的灭绝风险与流行病、核战等社会问题放在同一高度，成为全球优先事项。

据悉，该声明是由超过350名人工智能领域的行业高管、专家和教授联名签署并发布在非营利组织人工智能安全中心（CAIS）的网站上，其中签署者包括OpenAI首席执行官山姆・奥特曼（Sam Altman）、“AI 教父”杰弗里・辛顿（Geoffrey Hinton）、2018 年图灵奖得主约书亚・本希奥（Youshua Bengio）、Google DeepMind 首席执行官戴米斯・哈萨比斯（Demis Hassabis）等等。

事实上，此前5月16日，OpenAI创始人Sam Altman在美国国会就人工智能技术的潜在危险参加听证会时，就明确呼吁政府应该对生成式人工智能进行监管和干预，其称“对人工智能的监管是必不可少的，对于一项非常新的技术，我们需要一个新的框架”。所以其身影出现在此次联名签署，并不让人觉得意外。

（图源自网络）

除了业界对生成式人工智能发展的无序状态感到担忧，政界方面也同样如此。此前有消息称，5月21日，七国集团（G7）领导人就制定和建立人工智能技术标准做出呼吁，敦促行业和监管者要确保人工智能“值得信赖”，因为目前的技术治理尚未跟得上人工智能的发展步伐。而欧盟本月也已经几乎通过一项关于人工智能技术监管的立法，有望成为全球首部全面的人工智能法案。

编辑点评：倒也不必视新技术的诞生如洪水猛兽，每一轮新技术的变革往往都是机遇与风险并存的。当然，在避免扼杀创新之余，对新技术进行适当的监管也是很有必要的。