「思考用时100秒」成历史？AI推理太耗时，伯克利整了个大活儿

看到“已思考（用时 XXX 秒）……”这行提示，等待的焦躁感是不是立刻就上来了？这其实反映了一个有趣的现象：如今的AI模型越来越强大，能处理的任务也越来越复杂，但面对那些需要多步推理或横跨多个应用的复杂指令时，它们的响应速度有时反而更慢了。

（图源：deepseek）

针对这个普遍的“转圈圈”问题，伯克利人工智能研究实验室（BAIR）最近提出了一种新思路——自适应并行推理（Adaptive Parallel Reasoning，简称APR）。这或许能为AI的“慢性子”开出一剂新药方。

AI推理为什么要“转圈圈”？

在深入探讨APR之前，得先弄明白为什么现在的AI容易在复杂任务上“卡壳”。

目前，主流模型普遍采用“顺序推理”模式。简单来说，当接到一个复杂任务时，AI会先把任务像拆解乐高一样，分割成一系列逻辑相连的小步骤，然后严格按照顺序，一步接一步地推导，最后再对结果进行验证。

左为顺序推理（SR），右为并行推理（APR） | 图片来源：BAIR

这种方式的优点很明显：推理过程清晰，准确性也相对有保障。比如，之前有媒体尝试用ChatGPT创作原创漫画时，打开推理窗口就能看到AI一步步构思故事、撰写对白、规划画面的完整链条。

图片来源：雷科技

但问题不止于此。为了确保结果的可靠性，许多模型还会采用“推理时拓展”策略。说白了，就是AI得出一个答案后，不放心，会自己再验算几遍。只有多次推理结果一致，它才敢把最终答案交出来。

可想而知，“验算”次数一多，总的推理时间就被拉长了，用户自然就得等更久。

当然，顺序推理并非一无是处。对于极其复杂的任务，这种步步为营的方式保证了推理过程的可追溯性。一旦结果有误，开发者可以顺着推理链条回溯，相对容易地定位到出错的环节。

效率的代价

那么，“顺序推理+反复验算”这套组合拳的代价是什么呢？

最直接的代价就是时间。用户等待响应的时间被显著拉长。同时，这种将任务拆细再逐步推导的方式，会消耗大量的计算资源（Token）。更棘手的是，冗长的推理链很容易超出模型单次处理的文本窗口限制，导致上下文信息丢失，反而影响最终质量。

本意是提升准确性的设计，在某些场景下反而成了拖累效率的瓶颈。

为了解决“推理排队”的问题，行业里早就提出了“并行推理”的概念。其核心思想同样是拆分任务，但允许多个子任务同时进行处理。过去两年，不少研究都聚焦于如何验证并行推理的结果。

然而，传统的并行推理通常依赖外部模型来拆分任务，AI模型自身无法判断一个任务该被拆得多细。这就导致简单任务可能被过度拆解，浪费资源；而复杂任务若拆解得不够彻底，又可能算不出正确结果。

让AI自己决定如何“分兵”

如果让AI模型自己来判断任务的复杂度，并决定如何拆分呢？这正是自适应并行推理（APR）要做的。

顾名思义，APR与传统并行推理最大的不同在于“自适应”。模型可以根据任务的实际情况，动态地在顺序推理和并行推理之间切换。

面对简单的计算或查询类任务，比如“105能否被7整除”或“明天天气如何”，采用APR的模型会直接使用高效的顺序推理模式，可能连“验算”环节都省了，自然也就无需拆分任务。

左为顺序推理（SR），右为自适应并行推理（APR） | 图片来源：BAIR

但当遇到复杂的数学证明，或者明显具有多步骤、强上下文依赖的逻辑请求时，情况就不同了。例如，“导入并分析2026年F1中国站排位赛汉密尔顿在T14弯的尾速数据，并与2025年同期数据对比，最后进行可视化输出”。

处理这类任务时，APR模型会在不超出上下文窗口的前提下，将整个任务智能地拆分成多个相对独立的子任务。对于那些没有先后依赖关系的子任务，模型会尝试“并行处理”，即同时推进，从而压缩整个任务的完成时间。

其次，传统并行推理中，多个AI线程可能会重复处理相同的子任务，这本质上是一种资源浪费。而APR模型在任务拆分阶段就做好了分工规划，进一步减少了冗余计算。

两种不同推理模式示意图 | 图片来源：BAIR

更有趣的是，由于APR将长任务链拆解成了彼此独立的短任务，它巧妙地规避了超长文本处理中常见的“幻觉”问题。这道理其实很简单：让6个人分别做4小时题，其结果的总体正确率，很可能比让一个人连续高强度思考24小时要高。

以机器的方式思考：机遇与挑战

话又说回来，尽管自适应并行推理为AI效率提升提供了新路径，但它也伴随着自身的挑战。

并行推理训练框架Parallel-R1的作者就指出，APR模式的训练存在“模型回滚”现象。这有点像人类的惰性——只要移除针对APR模式的特定“奖励”机制，AI模型很容易就会退回它更熟悉的顺序推理“舒适区”。

此外，让模型自行评估任务复杂性并拆解任务，也可能带来风险。模型有可能错误判断子任务的主次，在细枝末节上过度纠结，反而忽略了核心难题。对于本身具有一定“概率性”和“随机性”的AI模型而言，在推理链中引入更多自主判断的环节，难免会增加结果的不确定性。

可以肯定，作为一项新兴技术，自适应并行推理还需要大量的研究和实践去打磨和完善。

图片来源：Claude

但从应用趋势来看，它的出现恰逢其时。在AI智能体（Agent）时代，过去那种单纯闲聊的场景已大幅减少。无论是Claude接入微软365套件，还是OpenAI发布能原生操作电脑的ChatGPT新版本，都指向同一个未来：跨应用、执行长链条复杂任务，将成为AI的核心竞争力。

而长任务链“环环相扣”的特性，会成倍放大AI推理效率的短板。就像老师常说的“一人耽误一分钟，全班耽误半小时”，在AI任务链中，一个环节的延迟会传导至整个流程。因此，尽管APR方案目前尚不成熟，但其“降本增效”的潜力显而易见，预计会有越来越多的AI服务尝试拥抱这种新模式。

从更宏观的视角看，这种从“顺序思考”到“自适应并行思考”的转变，或许标志着AI大模型发展路径的一次重要转向：从“模拟人类思维”转向“发挥机器特长”。

线性的、顺序的推理方式，本质上是让机器模仿人类的思考模式。这固然让AI的推理过程显得严谨、有逻辑。但硅基芯片的底层架构天生擅长并行计算。强迫AI像人一样“一步一步想”，某种程度上是一种能力浪费。让AI以更适合自身硬件特性的“并行”方式思考，才算真正进入了属于它的“机械时代”。

可以预见，当这种“非线性”的思维方式成为主流，AI与人的交互模式也可能发生改变。当前，AI为了展示其思考过程，往往将推理步骤呈现出来，始终离不开“文本窗口”的局限。而在“并行”计算时代，后台的推理可能完全“黑盒”化——系统在幕后全力运转，前台则直接给出最终结果。

到那时，AI或许不再需要向用户证明“自己在思考”；而“已思考XXX秒”这类略显尴尬的提示，也将彻底成为历史。