Meta FAIR 和 Samaya AI 团队利用 AI 提高维基百科的可验证性
编辑|白菜叶可验证性是维基百科的核心内容政策：声明需要有引用的支持。维护和提高维基百科参考文献的质量是一项重要的挑战，迫切需要更好的工具来帮助人类完成这项工作。在这里，SamayaAI和MetaFAIR的研究人员表明，可以借助由信息检索系统和语言模型提供支持的人工智能(AI)来解决改进参考的过程。这种基于神经网络的系统（这里称之为SIDE）可以识别不太可能支持其主张的维基百科引文，然后从网络上推荐更好的引文。该团队在现有的维基百科参考资料上训练这个模型，因此从数千名维基百科编辑的贡献和综合智慧中学习。通过
编辑 | 白菜叶
可验证性是维基百科的核心内容政策：声明需要有引用的支持。维护和提高维基百科参考文献的质量是一项重要的挑战，迫切需要更好的工具来帮助人类完成这项工作。
在这里，Samaya AI 和 Meta FAIR 的研究人员表明，可以借助由信息检索系统和语言模型提供支持的人工智能 (AI) 来解决改进参考的过程。
这种基于神经网络的系统（这里称之为 SIDE）可以识别不太可能支持其主张的维基百科引文，然后从网络上推荐更好的引文。该团队在现有的维基百科参考资料上训练这个模型，因此从数千名维基百科编辑的贡献和综合智慧中学习。通过众包，研究人员观察到，对于最有可能被该系统标记为无法验证的前 10% 的引用，与最初引用的参考文献相比，人们在 70% 的情况下更喜欢该系统提供的替代方案。
为了验证该系统的适用性，研究人员构建了一个演示来与英语维基百科社区互动，发现根据 SIDE 的说法，对于相同的前 10% 最有可能无法验证的声明，SIDE 的首次引用推荐的首选频率是现有维基百科引用的两倍。结果表明，基于人工智能的系统可以与人类一起使用，以提高维基百科的可验证性。
该研究以「Improving Wikipedia verifiability with AI」为题，于 2023 年 10 月 19 日发布在《Nature Machine Intelligence》。
维基百科是访问量最大的网站之一，每年的页面浏览量达到五万亿，是当今最重要的知识来源之一。因此，维基百科上的知识几乎都是可验证的，这一点至关重要：维基百科用户应该能够使用可靠的外部来源查找并确认维基百科上的声明。为了促进这一点，维基百科文章提供了指向支持该主张的背景材料的内联引用。质疑维基百科声明的读者可以遵循这些指示并自行验证信息。
然而，在实践中，这个过程可能会失败：引文可能并不包含受质疑的主张，或其来源可能值得怀疑。这样的说法可能仍然是正确的，但细心的读者无法轻易地用引用来源中的信息来验证它们。假设维基百科的说法是真实的，其验证过程分为两个阶段：（1）检查现有来源的一致性；（2）如果失败，则寻找新的证据。
如上所述，维基百科声明的验证需要对语言的深入理解和对在线搜索的掌握。机器可以在多大程度上学习这种行为？从基础人工智能进展的角度来看，这个问题很重要。例如，验证需要能够检测自然语言中的逻辑蕴涵，并将主张及其上下文转换为寻找证据的最佳搜索词——这两个长期存在的问题主要在某种程度上的综合环境中进行了研究。
从实际角度来看，这同样重要。机器验证器可以帮助维基百科编辑标记哪些引文可能会触发失败的验证，并建议用什么来替换引文，以防它们当前不支持各自的主张。这可能很重要：搜索潜在证据并仔细阅读搜索结果需要时间和大量的认知努力。将人工智能助手集成到这个过程中可能有助于减少这两种情况。
图示：SIDE概述。（来源：论文）
在最新的工作中，Samaya AI 和 Meta FAIR 的研究人员开发了 SIDE，一个基于人工智能的维基百科引文验证器。SIDE 在 Wikipedia 上发现根据当前引文可能无法验证的声明，为此，扫描网络快照以寻找替代方案。
它的行为是通过维基百科本身来学习的：使用精心策划的英语维基百科声明及其当前引用的语料库，研究人员训练（1）一个检索器组件，将声明和上下文转换为经过优化的符号和神经搜索查询，以在网络规模的语料库中查找候选引用；（2) 一个验证模型，根据现有的和检索到的引文验证给定声明的可能性进行排名。
该团队使用自动指标和人工注释来评估他们的模型。为了自动测量该系统的准确性，他们检查了 SIDE 在高质量文章中恢复现有维基百科引用的情况（如维基百科特色文章类所定义）。
研究人员发现，在近 50% 的情况下，SIDE 会准确返回维基百科中使用的源作为其最佳解决方案。值得注意的是，这并不意味着其他 50% 是错误的，只是他们不是当前的维基百科来源。
该团队还测试了 SIDE 作为引文助手的能力。在用户研究中，他们将现有的维基百科引用放在 SIDE 生成的引用旁边。然后，用户评估所提供的引文在多大程度上支持该主张，以及来自 SIDE 或维基百科的哪个引文更适合验证。
总体而言，超过 60% 的时间用户更喜欢 SIDE 的引用而不是维基百科的引用，当 SIDE 将非常低的验证分数与维基百科的引用相关联时，这一比例会增加到 80% 以上。
论文链接：https://www.nature.com/articles/s42256-023-00726-1
前瞻研判：未来十年，县域特色化经济的竞争，不再是资源的竞争，而是市场信任的竞争。谁能为消费者提供最确定的价值承诺，谁就能赢得市场。 2026年全国两会刚刚落幕，“十五五”规划进入开局之年。今年的政府工作报告中，“扎实推进乡村全面振兴”被摆在突出位置，明确提出要“壮大县域富民产业，做好土特产文章”。这
2026 ISLE展前瞻：南昌光电产业集群即将重磅亮相 明年三月，深圳国际会展中心将迎来一场行业盛事。2026年3月5日至7日，ISLE国际智慧显示及系统集成展将在这里拉开帷幕。而这一次，聚光灯将格外聚焦于一个区域——南昌光电产业集群。他们将以“光耀南昌，智链全球”为主题，携一支实力雄厚的“集团军”
天龙三号海上试车成功：看中国商业航天如何将“安全”铸为核心竞争力 9月15日，山东海阳东方航天港，巨大的轰鸣声撕裂长空，炽热的白色蒸汽升腾而起。北京天兵科技自主研制的天龙三号大型液体运载火箭，在这里的海上平台成功完成了一级动力系统试车。 这次试车可不简单——它是世界首次海上动力系统试车试验。结果让人
3月18日，通用技术集团机床产业生态合作伙伴大会在北京国家会议中心举行 春日的北京，一场关乎中国工业未来的盛会拉开帷幕。通用技术集团机床产业生态合作伙伴大会在国家会议中心举行，近500位产业链上下游的企业代表与行业专家齐聚一堂。会上，通用技术集团总工程师、机床公司董事长周舟发布了集团机床产业的未来发
华为鸿蒙电脑技术与生态沟通会隆重举行，首款鸿蒙电脑惊艳登场，这一标志性事件预示着华为在电脑领域迈出了具有深远影响的关键一步，为国产电脑产业带来了全新的革新与发展契机。鸿蒙电脑的推出并非一朝一夕之功，而是华为经过五年精心策划的结果。在此期间，华为汇聚了超过10000名顶尖工程师，与20多家专业研究所紧密合作，投入大量的精力与资源进行技术研发，最终积累了超过2700项核心专利，彰显了其强大的技术实力与创新能力。新推出的HarmonyOS5采用鸿蒙内核，从操作系统底层开始重构，旨在为用户提供全面升级的办公体验
AIxiv专栏是本站发布学术、技术内容的栏目。过去数年，本站AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：liyazhou@jiqizhixin.com；zhaoyunfeng@jiqizhixin.com赵伟翔是哈尔滨工业大学社会计算与信息检索研究中心2021级直博生，导师为赵妍妍教授和秦兵教授。主要研究方向为对话系统、大语言模型对齐等。他曾以第一作者在ACL、AAAI、IJCAI、CO
用来运行Llama3405B优势明显。最近，Meta开源了最新的405B模型（Llama3.1405B），把开源模型的性能拉到了新高度。由于模型参数量很大，很多开发者都关心一个问题：怎么提高模型的推理速度？时隔才两天，LMSYSOrg团队就出手了，推出了全新的SGLangRuntimev0.2。这是一个用于LLM和VLM的通用服务引擎。在运行Llama3.1405B时，它的吞吐量和延迟表现都优于vLLM和TensorRT-LLM。在某些情况下（运行Llama系列模型），它的吞吐量甚至能达到TensorRT
机器之能报道编辑：杨文AI被人类带坏！这个世界，太癫了……最近，社交媒体上冒出来一堆搞怪视频，打着AI的旗号，真人cosAI，甚至抖音还专门出了个热门话题——人类模仿AI大赛。（视频来自抖音博主「关妮乱石」）视频链接：https://mp.weixin.qq.com/s/1DVc8skecSsO0a9QcklZlw套路都一个样儿：左边一张旧照片，右边打着「AI修复」的字幕，实际由真人演绎着脑干缺失的狗血「剧情」。-1-AI：第一次被人冒充，没想到比我还抽
获胜的AI数学奥林匹克模型出炉！几天前，随着榜单的公布，大家对全球首届AI数学奥林匹克竞赛（AIMO）进步奖的讨论量居高不下。这次比赛共有5个团队胜出，获得第一名的是Numina的团队，CMU_MATH位列第二，afterexams暂居第三，codeinter、Conor#2团队分别拿到第四、第五的成绩。图源：https://www.kaggle.com/c/ai-mathematical-olympiad-prize/leaderboard这一成绩，曾让陶哲轩感到惊讶。当时官方只公布了获奖名单，并未透漏
2024年WAIC・云帆奖面向全球征选AI青年技术人才，欢迎点击「此链接」报名或提名。人工智能的研究范式和产业格局正在经历深刻而积极的转变。过去一年，大模型引发了一股席卷全球的智能浪潮，这不仅推动了AI技术在更广泛领域的应用，也激发了人类对人工智能深层次潜力的追寻和探索。在这场技术革新的洪流中，通用人工智能（AGI）正逐渐从幻想走进现实。我们正处于一个新征程的起点，这个阶段将以人类对通用智能的不懈追求为特征。迎接即将到来的新时代，让我们将目光投向那些充满激情、勇于探索的青年创新者。他们凭借卓越的智慧和无畏
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
