「思考用时100秒」成历史？AI推理太耗时，伯克利要让模型并行推理

“已思考（用时 XXX 秒）……”看到这行提示，你是不是也感到一丝不耐烦？尽管如今的AI越来越聪明，功能也越来越强大，但面对一些刁钻的推理题，或是需要横跨多个应用的复杂任务时，这些更“谨慎”的模型，反应速度反而慢了下来。

（图源：deepseek）

针对这个普遍的“转圈圈”现象，伯克利人工智能研究实验室（BAIR）最近提出了一种新思路——自适应并行推理（Adaptive Parallel Reasoning，APR）。这或许能为AI的“慢性子”问题，开出一剂不一样的药方。

AI 推理为什么要「转圈圈」？

在深入探讨APR之前，我们得先弄明白，为什么现在的AI总爱在某些环节“卡壳”。

根源在于当前主流模型普遍采用的“顺序推理”模式。接到一个复杂任务后，AI会先把任务拆解成一系列逻辑相连的小步骤，然后像走楼梯一样，从头到尾、一步接一步地推导，最后再验证结果。

左为顺序推理（SR），右为并行推理（APR）

图片来源：BAIR

这种方式的优点很明显：推理过程清晰，准确性也相对有保障。比如，当你让AI创作一个原创漫画故事时，打开它的“思考过程”，就能看到它如何一步步设计情节、撰写对白、规划分镜。

图片来源：正软商城

但问题不止于此。为了确保结果的可靠性，主流模型往往还会采用一种名为“推理时拓展”的策略。说白了，就是AI得出一个答案后，不放心，会自己再验算几遍。只有多次推理结果一致，它才敢把最终答案交给你。

很显然，验算次数越多，耗时自然越长，用户的等待时间也就被拉长了。

当然，顺序推理并非一无是处。对于极其复杂的任务，这种步步为营的方式保证了推理过程的可追溯性。我们可以随时检查AI在每一个小步骤上的“心路历程”，更容易定位问题出在哪里。

那么，代价是什么呢？

答案很直接：时间与资源。“顺序推理+反复验算”的模式，直接导致了更长的响应时间。同时，这种将任务反复拆解、计算的方式，会显著消耗更多的计算资源（Token）。更棘手的是，复杂的任务链很容易超出模型单次处理的文本长度限制，导致上下文信息丢失。

本来旨在提升准确性的设计，反倒可能成为拖累整体效率的瓶颈。

为此，行业里早就提出了“并行推理”的概念作为解决方案。其核心思想同样是拆分任务，但让多个子任务同时进行。过去两年，不少研究都聚焦于如何验证这种并行模式下的结果可靠性。

然而，传统的并行推理有个固有缺陷：任务如何拆分、细化到什么程度，通常由一个外部模型或固定规则决定，AI模型自身没有发言权。这就容易造成资源错配——简单任务被过度拆解，白白浪费算力；复杂任务却拆得不够细，最终影响结果质量。

让大模型学会自己拆分任务

如果让AI自己来决定任务的拆解粒度呢？这正是自适应并行推理（APR）要解决的核心问题。

顾名思义，APR与传统并行推理最大的不同，在于“自适应”。模型可以根据任务的复杂程度，动态地在顺序推理和并行推理之间切换。

面对“105能否被7整除”或“明天天气如何”这类简单直接的查询，采用APR的模型会直接使用高效的顺序推理模式，可能连额外的验算都省了，自然无需大动干戈地拆分任务。

左为顺序推理（SR），右为自适应并行推理（APR）

图片来源：BAIR

但当遇到复杂的数学证明，或是明显具有多步骤、强上下文依赖的逻辑请求时，情况就不同了。例如，“导入并分析2026年F1中国站排位赛中汉密尔顿在T14弯的尾速数据，与2025年同期数据进行对比，并完成可视化输出”。

面对这种复合型任务，APR模型会在不超出单次上下文窗口的前提下，将整个任务智能地拆分成多个可以独立执行的子任务。那些没有前后依赖关系的子任务会被同时处理，从而大幅压缩整体任务的完成时间。

其次，传统并行推理中，经常出现多个AI实例重复处理相同子任务的情况，这本质上是一种资源浪费。而APR模型在拆分阶段就做好了分工规划，每个子任务只由一个实例负责，进一步减少了冗余计算。

两种不同推理模式示意图

图片来源：BAIR

更有趣的是，由于APR将长任务链拆解成了相对独立的模块，它巧妙地缓解了超长文本处理中常见的“幻觉”问题。这道理很简单：让6个人分别专心做4小时题，其准确率通常高于让一个人连续疲劳作战24小时。

让 AI 以机器的方式「并行思考」

当然，作为一种新兴的工作模式，自适应并行推理也并非没有挑战。

并行推理训练框架Parallel-R1的作者就指出，APR模型的训练存在“回滚”现象。就像习惯了某种工作模式的员工，一旦移除针对APR的特定“激励”，模型很容易退回传统的顺序推理舒适区。

此外，让模型自行评估任务复杂性并决定拆分策略，也可能带来新的风险。模型可能会错误判断任务的主次，在细枝末节上过度纠结，却忽略了真正的核心难题。对于AI这种带有概率性输出的技术而言，在推理链中引入更多“自主决策”环节，无疑会增加结果的不确定性。

因此，APR作为一种前沿方案，显然还需要大量的实践打磨和时间验证。

图片来源：Claude

但从应用趋势来看，APR的潜力不容忽视。在AI智能体（Agent）时代，单纯插科打诨的聊天场景正在减少，AI正变得越来越“实干”。无论是Claude与微软365套件的深度集成，还是OpenAI发布的能原生操作电脑的ChatGPT新版本，都指向同一个未来：跨应用、执行长任务链的能力，将成为AI的核心竞争力。

而长任务链“环环相扣”的特性，会成倍放大推理效率的短板。这就好比过去老师常说的“一人耽误一分钟，全班耽误半小时”。在这种背景下，尽管APR方案尚不成熟，但其“降本增效”的明确优势，很可能吸引越来越多的AI服务提供商进行探索和尝试。

更进一步看，从顺序思考到自适应并行思考的转变，或许标志着AI大模型发展路径的一次重要转向：从“模拟人类思考”迈向“发挥机器优势”。

线性、顺序的推理，本质上是让硅基芯片去模仿碳基生物的思维模式。它赋予了AI严谨、连贯的优点，但同时也是一种束缚。硅基芯片天生擅长并行计算，让AI以并行、非线性的方式“思考”，才是真正释放其硬件潜力的做法。

让AI以人的方式思考，好比让人形机器人去拉黄包车；让AI以AI的方式思考，它才算真正进入了属于自己的“机械时代”。

可以预见，当这种“非线性”的思维方式成为主流，AI智能体的交互模式也将随之改变。当前，AI为了向用户证明“我在思考”，不得不将推理过程可视化，始终受限于“文本窗口”的呈现形式。而进入“并行”运算时代后，AI的推理过程将更可能成为一个“黑箱”——后台多线程全力开动，前台则直接呈现最终结果。

到那时，AI或许就不再需要向用户证明“自己在思考”了。而“已思考XXX秒”这类略显冗余的提示，也将彻底成为历史。