奥尔特曼宣布OpenAI五大原则：确保AGI惠及全人类，反对技术权力集中在少数人手中

奥尔特曼宣布OpenAI五大原则：确保AGI惠及全人类，反对技术权力集中在少数人手中

就在最近，OpenAI的掌舵人萨姆·奥尔特曼（Sam Altman）向外界清晰地阐述了公司的核心原则与长远目标。他描绘的图景相当宏大：人工智能的潜力，远不止是某个领域的效率提升，它有望带来的社会变革，其深度和广度或将超越蒸汽机或电力曾经引发的革命。

那会是一个怎样的世界？按照奥尔特曼的设想，个人的能力、主动性和实现自我价值的机会将得到前所未有的释放，一些过去只存在于科幻小说里的场景，很可能走进现实。社会的整体繁荣程度，会远超我们今天的想象。

当然，这幅美好蓝图并非历史的必然。未来的技术权力走向，存在两种截然不同的可能：要么高度集中在少数几家掌控“超级智能”的公司手中，要么以去中心化的方式，真正由公众所共享。而OpenAI明确选择了后者——他们的核心目标，就是努力将真正的通用人工智能（AGI）交到尽可能多的人手里。

为了实现“确保AGI惠及全人类”这一根本使命，OpenAI制定了五项基本原则：

第一，民主化

OpenAI公开表态，将坚决抵制技术权力向少数人集中的可能性。这意味着什么？不仅仅是让每个人都能用上AI那么简单。更关键的是，关于AI发展的那些重大决策，必须通过民主程序和公平原则来制定，而不能仅仅由少数AI实验室关起门来决定。

第二，赋能

OpenAI深信，AI应当成为每个人实现目标、学习新知、收获快乐与充实感、追逐梦想的助推器，而整个社会都将从中受益。用户必须能够可靠地利用其服务，去完成价值越来越高的工作。公司希望赋予用户广泛的自主权，但同时也清醒地认识到自身的责任：必须以最小化伤害的方式构建和部署AI。这里的“伤害”既包括需要预防的灾难性风险，也涵盖了局部性伤害以及那些潜在的、具有腐蚀性的社会影响。

第三，普惠繁荣

OpenAI所期待的未来，是每个人都能享有优质生活。通过将易于使用且具备强大计算能力的AI系统普及到每个人手中，人们将发现创造价值的新途径，从而大幅改善生活质量——尤其是在催生新的科学发现方面。为了实现这种广泛共享的繁荣，奥尔特曼指出，政府层面可能需要考虑新的经济模式。同时，整个社会也需要建设大量的AI基础设施，并开发能够大幅降低成本的新技术。

第四，韧性

AI能力的爆发必然会引出新的风险，这一点毋庸置疑。OpenAI承诺将与其他公司、政府及社会各界通力合作，共同应对这些挑战，特别是在生物安全与网络安全等关键领域。奥尔特曼说得非常直白：没有任何一家AI实验室能够独自确保美好的未来。例如，足够强大的模型可能让制造新型病原体变得异常容易，这就需要在全社会层面建立不依赖于特定病原体知识的防御体系。为此，OpenAI将继续坚持其“迭代部署”策略，让社会能够逐步适应每一级AI能力带来的变化。同时他们也预见到，在某些阶段，必须与政府、国际机构及其他AGI项目紧密协作，确保在充分解决了严重的对齐、安全或社会问题之后，再继续向前推进。

第五，适应性

面对充满不确定性的未来，唯一可靠的方法就是根据不断学到的新知识，持续调整自身策略。OpenAI表示，他们将在运营原则发生变化时保持透明。奥尔特曼举了个例子：尽管普惠繁荣始终至关重要，但在未来的某些时期，可能需要在“赋能”和“韧性”之间做出艰难的权衡。

回顾过往，奥尔特曼提到，就在不久之前，OpenAI还曾因为不确定GPT-2模型的社会影响，而对是否发布其权重感到焦虑。如今看来，当时的担忧或许有些过度，但正是这个过程，促使他们摸索出了“迭代部署”这一策略——这被他们视为最重要的方法论之一。

奥尔特曼最后总结道，我们正步入一个技术持续进步且影响深远的阶段，每一项决策都值得被反复审视。他们不可能事事都做对，但会坚持快速学习并修正方向，其根本承诺在于，推动技术发展为社会带来更积极的影响。