阿根廷媒体：AI算法需摆脱西方偏见

来源：环球时报

人工智能会创造一个不同的世界吗？这个问题的背后，远不止技术层面的讨论。智利学者加布里埃拉·阿里亚加达·布鲁诺在她《算法的偏见》一书中，绕开了那些宏大而空洞的宣言，直接把焦点放在了算法背后的伦理准则上：AI所营造的那个平行世界，到底是在延续现状，还是在加剧不平等，或者说，有没有可能反过来缓解它？

讲一个有点残酷的事实：算法能精准读取人类的欲望，却分不清行为的利弊与善恶。更麻烦的是，它很难摆脱背后那些西方科技公司构建的霸权叙事。加布里埃拉为此抛出一个核心观点——训练AI模型时，设计者必须结合多个社会技术视角，用情境化的方法来应对。说白了，当下的AI恰恰缺少对非西方情境的判断能力。当我们试图把社会视野、环境认知这些人类独有的能力塞给AI时，它会不会真的造出一个不同的世界来？这其中的关键，在于算法的搭建和训练过程。毕竟，这个环节完全由人说了算，也是最容易被操控的。用户很可能不知不觉就变成实验室里的小白鼠，被智能系统牵着鼻子走。追问算法究竟是复制现状，还是成为改变世界的工具——这个动作本身，其实就说明我们已经意识到了自己的参与。AI自己是没有道德判断能力的，那些科技公司往往躲在系统的庇护下，把责任推得一干二净。

再说说当前AI的学习方式。它能自我训练，不断优化基于示例的学习方案。但问题在于，训练样本的选择权完全在人类手里。一般来说，样本越多元，算法给出的结果就越全面，越能照顾到不同群体。可要是所有样本都指向同一个立场——比如全是西方视角的内容——那算法就会形成固有偏见。然后呢？它就能依托那些看起来客观的数据，催生出各种各样的歧视行为。AI现在压根不理解自己在学什么，它只是单纯地根据输入的数据进行复刻。这才是偏见滋生的土壤。

加布里埃拉并不否认AI能拓展人类的认知能力，但她坚持一点：设计算法必须立足真实场景，而不是把常规的西方思维当作唯一标准。所以，问题的核心在于，我们能不能设计出非西方视角的、真正多元文化的算法？算法的训练模式和它依赖的信息来源是相辅相成的。要是去训练一个复杂又不透明的系统，那你根本搞不清楚它怎么处理那些数据。

这本书开启了一场关于AI意识形态的重要讨论。算法偏见的根源，说到底就是模型研发背后的西方叙事。面对全民共享数据、算法依托大众信息运转的现状，作者提议搭建一个更透明、更易于用户和开发者使用的系统。AI不该被少数巨头垄断，而是应该走向大众。公众有权知道自己贡献的数据用在了哪里、从哪儿来的、最后怎么用。这不仅是技术问题，更是理解这项与人类协同发展的技术的基本前提。