LLM自我评分现已超越10倍体量的模型，谷歌推出全新ASPIRE方法消除「幻觉」
大模型的「幻觉」问题马上要有解了？威斯康星麦迪逊大学和谷歌的研究人员最近推出ASPIRE系统，使大模型能够自评输出。如果用户看到模型的生成的结果评分不高，就能意识到这个回复可能是幻觉。如果系统能够根据评分结果进一步筛选输出内容，例如当评分较低时，大模型可以生成类似"我无法回答此问题"的语句，这可能最大程度地改善幻觉问题。论文地址：https://aclanthology.org/2023.findings-emnlp.345.pdfASPIRE能让LLM输出答案以及答案的置信度得分。研究人员的实验结果表明
大模型的「幻觉」问题马上要有解了？
威斯康星麦迪逊大学和谷歌的研究人员最近推出ASPIRE系统，使大模型能够自评输出。
如果用户看到模型的生成的结果评分不高，就能意识到这个回复可能是幻觉。
如果系统能够根据评分结果进一步筛选输出内容，例如当评分较低时，大模型可以生成类似"我无法回答此问题"的语句，这可能最大程度地改善幻觉问题。
论文地址：https://aclanthology.org/2023.findings-emnlp.345.pdf
ASPIRE能让LLM输出答案以及答案的置信度得分。
研究人员的实验结果表明，ASPIRE在各种QA数据集（例如 CoQA 基准）上显著优于传统的选择性预测方法。
让LLM不仅要回答问题，还要评估这些答案 。
在选择性预测的基准测试上，研究人员通过ASPIRE系统取得了超过10倍规模的模型的成绩。
就像让学生在课本后面验证他们自己的答案，虽然听起来有点不靠谱，但是细细一想，每个人在做出一道题目之后，确实会对答案的满意程度会有一个评分。
这就是ASPIRE的本质，它涉及三个阶段：
(1) 针对特定任务的调优，
(2) 答案采样，
(3) 自我评估学习。
在研究人员看来，ASPIRE不仅仅是另一个框架，它代表着一个全面提升LLM可靠性，降低幻觉的美好未来。
如果LLM可以成为决策过程中值得信赖的合作伙伴。
只要通过不断优化选择性预测的能力，人类距离充分发挥大模型的潜力就又近了一步。
研究人员希望能凭借ASPIRE，开启下一代LLM的进化，从而能创建更可靠和更具有自我意识的人工智能。
ASPIRE 的机制
针对特定任务的微调
ASPIRE执行特定于任务的微调以训练适应性参数
，同时冻结LLM。
给定生成任务的训练数据集，它会微调预训练的LLM以提高其预测性能。
为此，可以采用参数高效的微调技术（例如，软提示词微调和LoRA）来微调任务上的预训练LLM，因为它们可以有效地通过少量目标获得强泛化任务数据。
具体来说，LLM参数（θ）被冻结，并添加自适应参数
进行微调。
仅更新 θ (p) 以最小化标准 LLM 训练损失（例如交叉熵）。
这种微调可以提高选择性预测性能，因为它不仅提高了预测精度，而且还提高了正确输出序列的可能性。
答案采样
在针对特定任务进行调优后，ASPIRE使用LLM和学习到的
为每个训练问题生成不同的答案，并创建用于自评估学习的数据集。
研究人员的目标是生成具有高可能性的输出序列。他们使用波束搜索（Beam Search）作为解码算法来生成高似然输出序列，并使用Rouge-L度量来确定生成的输出序列是否正确。
自评估学习
在对每个查询的高似然输出进行采样后，ASPIRE添加自适应参数
，并且仅微调
来学习自评估。
由于输出序列的生成仅取决于 θ 和
，因此冻结 θ 和学习到的
可以避免在学习自评估时改变LLM的预测行为-评估。
研究人员优化了
，使得改编后的LLM可以自己区分正确和错误的答案。
在这个框架中，可以使用任何参数有效的微调方法来训练
和
。
在这项工作中，研究人员使用软提示微调，这是一种简单而有效的机制，用于学习「软提示」来调节冻结的语言模型，从而比传统的离散文本提示更有效地执行特定的下游任务。
这种方法背后的核心在于认识到，如果能够开发出有效激发自我评价的提示，那么应该可以通过结合有针对性的训练目标的软提示微调来发现这些提示。
在训练
和
后，研究人员通过波束搜索解码获得查询的预测（beam search decoding）。
然后，研究人员定义一个选择分数，将生成答案的可能性与学习到的自我评估分数（即，预测对于查询正确的可能性）结合起来，以做出选择性预测。
结果
为了证明ASPIRE的效果，研究人员使用各种开放式预训练Transformer (OPT)模型在三个问答数据集（CoQA、TriviaQA和SQuAD）上对其进行评估。
通过使用软提示调整训练
研究人员观察到LLM的准确性大幅提高。
例如，与使用CoQA和SQuAD数据集的较大预训练OPT-30B模型相比，采用ASPIRE的OPT-2.7B模型表现出更好的性能。
这些结果表明，通过适当的调整，较小的LLM在某些情况下可能有能力匹配或可能超过较大模型的准确性。
当深入研究固定模型预测的选择分数计算时，ASPIRE获得了比所有数据集的基线方法更高的AUROC分数（随机选择的正确输出序列比随机选择的不正确输出序列具有更高选择分数的概率）。
例如，在CoQA基准上，与基线相比，ASPIRE将AUROC从51.3%提高到80.3%。
TriviaQA数据集评估中出现了一个有趣的模式。
虽然预训练的OPT-30B模型表现出更高的基线精度，但当应用传统的自我评估方法（Self-eval和P(True)）时，其选择性预测的性能并没有显著提高。
相比之下，小得多的OPT-2.7B模型在使用ASPIRE进行增强后，在这方面表现优于其他模型。
这种差异体现了一个重要的问题：利用传统自我评估技术的较大LLM在选择性预测方面可能不如较小的ASPIRE增强模型有效。
研究人员与ASPIRE的实验之旅强调了LLM格局的关键转变：语言模型的容量并不是其性能的全部和最终目的。
相反，可以通过策略调整来大幅提高模型的有效性，即使在较小的模型中也可以进行更精确、更自信的预测。
因此，ASPIRE证明了LLM的潜力，它可以明智地确定自己答案的确定性，并在选择性预测任务中显著地超越地超越其他10倍体量的模型。
在千兆宽带、5G通信与云服务深度普及的2026年，大众普遍以为超大文件传输已步入“秒级时代”，但现实远未达到这般畅快。当面对数TB乃至数十TB级别的庞大数据集时，当下最可靠、最迅捷且兼顾安全性的传输方案，依然是“物理位移”——依靠人工携带存储介质完成跨地域交付。一位来自河南信阳的用户讲述了真实经历：他曾需将4TB资料从信阳送往郑州，首次尝试纯网络传输，系统预估总耗时近72小时；最终改用专人驱车运送，单程仅需约2.5小时，当天即完成取件与送达，整体效率显著超越线上方式。该实例迅速引发热议，多位资深IT博主随
5月30日，华为推出了全新的AI模型——盘古UltraMoE，该模型的参数量达到了7180亿。作为一款接近万亿参数的MoE(MixtureofExperts)模型，它在整个训练过程中完全基于华为的昇腾AI平台完成，标志着华为在超大规模模型训练方面取得了重要进展。盘古UltraMoE的成功训练离不开盘古团队研发的一系列创新技术。例如，Depth-ScaledSandwich-Norm(DSSN)稳定架构的引入，显著改善了超大规模模型训练期间出现的梯度异常及
大语言模型面对加密数据，即便最新的Qwen3也会感到压力！尽管当下各类推理模型在多种基准测试中表现优异，但在密码学这样对逻辑严谨性和细节准确性要求极高的专业领域，模型的推理能力还有待深入挖掘。密码学不仅要求模型具备高级数学运算能力和严密的逻辑推理链，还需要其能够精准辨识复杂加密模式中的潜在规律；成功解密要求模型拥有极强的综合推理能力。上海AILab等联合推出的CipherBank测评，使用大量真实隐私场景数据和多种密码算法，严苛挑战当前最先进的大模型。CipherBank的测评结果显示，目前的大语言模型
现在，请大家一起来数一下"1"、"2"。OK，仅仅2秒的时间，一个接近万亿规模的MoE大模型就已经掌握了如何解答一道高等数学难题的方法！而且呢，这个大模型还是完全依靠国产设备进行训练的，整个流程都体现了浓浓的“国产”特色。这就是华为借助"昇腾+PanguUltraMoE"这一组合实现的成果——不仅达成了国产算力与国产模型在全流程上的自主可控训练闭环，还在集群训练系统的性能方面达到了行业顶尖水平。有多顶尖？来看一组数据：预训练阶段：昇腾Atlas800TA2万卡集群的MFU提升
只需动动嘴，就能操控GUI代理？由美团与浙江大学联合推出的GUIRoboTron-Speech——让你彻底解放双手，直接对设备“发号施令”。这是首个可以直接通过语音指令和屏幕截图进行端到端（End-to-End）决策的自主GUI智能体，致力于为用户提供更自然、高效且无障碍的人机交互方式。从文本到语音，智能代理的新一轮进化目前，基于大语言模型（LLMs）的自主GUI智能体已经能够通过文本指令自动完成跨应用、多步骤的复杂操作，显著提升用户效率。然而，这种依赖文本输入的方式在某些场景中存在明显局限
无论是专业摄影师还是摄影爱好者，相机内存储卡的可靠性都至关重要，尤其是在恶劣的拍摄环境中，数据存储的安全性更是不可忽视。尽管市场上有多种支持三防功能的移动存储设备用于数据备份，但最常用的SD存储卡由于采用塑料外壳，长期使用后容易出现破损，导致数据损坏，甚至可能损坏相机的存储卡槽，带来的损失不可估量。国际存储品牌雷克沙推出了全新的Armor系列SD存储卡，不仅读写速度快，还采用了不锈钢材质的外壳，具有优异的防水、防尘和防跌落性能，为相机的原始拍摄数据提供了可靠的保护。雷克沙ArmorSD存储卡分为GOLD
1.1计算机发展历程[计组]1.0_你好，我是计算机组成原理我们生活在一个信息化程度极高的世界中，我们每天的生活都离不开电脑和手机，这些设备实际上都属于计算机的范畴。计算机的底层结构由硬件构成，在硬件之上，我们会安装操作系统，再在操作系统上运行各种应用软件，这样就能得到一个易于使用的计算机系统。通过计算机网络，这些设备实现了信息的互联互通，这正是我们现在生活的信息化世界的缩影。计算机组成原理这门课研究的就是这些计算机硬件在底层如何协同工作。既然我们要研究硬件，不妨先来看一下大家日常生活中常见的一些硬件
近日，vivo的一项智能手表专利正式获得批准并公开展示。该专利采用模块化设计，通过磁力锁扣和滑动限位槽，用户可以手动调整传感器的位置，以确保健康数据的精准收集。vivo这项专利的核心亮点是其模块化结构。手表由可穿戴主体和可拆卸设备主体两部分组成，用户可以通过滑动限位槽和磁力锁扣，旋转或移动内部传感器模块，将其调整到最佳佩戴位置。这种设计有效提高了健康数据的监测准确性，如心率和血氧等关键指标。对于不同体型和佩戴习惯的用户来说，这种可调节性尤为重要，能够确保传感器与皮肤的紧密接触，减少因位置偏差导致的误差
本文参考自百问网-韦东山驱动大全，旨在探讨当前手机中常见的LCD屏幕。LCD与OLED的区别关于LCD和OLED的区别，可以参考以下链接：https://www.zhihu.com/question/22263252/answer/410201820不同接口的LCD硬件操作原理应用工程师眼中的LCDLCD由一个个像素组成，每行有xres个像素，共有yres行，其分辨率为xres*yres。只要我们能够控制任意一个像素的颜色，就可以在LCD上绘制文字和图片。像素的颜色表示像素的颜色通常用红绿蓝三色来表示
Windows 10 是一款微软推出的经典操作系统，拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起，适合需要持续观察和微调设备状态的场景。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
