从“聊天”到“干活”，AI应用层的隐性挑战与真实机遇

2026年过半，大家聊AI的方式，其实已经悄悄变了味。从年初的小龙虾，到现在的WorkBuddy，智能体正在从“会思考”蜕变成“能干活”，真正嵌入到企业的工作流程里，实打实地提升生产力。大家的关注点，也从“能不能用”变成了“好不好用”。但伴随而来的，是高昂的Token账单——烧钱太快，科技公司纷纷陷入“AI账单焦虑”。

那么，智能体到底给企业带来了哪些效率变革？AI开源之后，智能体的开发还有没有技术护城河？AI领域“神仙打架”，普通人的机会又在哪？Token的供需市场未来会怎么走？

今年世界人工智能大会期间，澎湃科技聊天室请来了派欧云计算（上海）有限公司（PPIO）智算业务研发副总裁李星星、天鹜科技AI Lab“00后”技术科学家谭扬、上海浦东人才发展有限公司首席技术官唐国华，一起聊了聊智能体时代的生产力变革，以及Token工厂面临的挑战与机遇。

以下为对话实录节选。

澎湃科技：现阶段，科研基模能力到底到了什么水平？离你们的需求还有哪些差距？

谭扬（天鹜科技AI Lab技术科学家）： 我平时大量调用智能体来做研究和调研。之前做了一个蛋白质设计智能体，给它输入需求，它就能自主分析并执行，最后设计出来的结果给到科研合作方，活性直接提高了5倍。科研基模分两块：一是通用大模型，它对垂直领域的理解存在局限，尤其在生物或化学领域，各有自己独立的语言范式，单靠概率学习对话方式很难掌握这些垂直能力。当然，未来基模增强后，或许能学到这些信息。另一类是更垂直的基模，比如我做的蛋白质设计大模型，用蛋白质语言训练，还有基因组大模型或化学语言大模型，它们能对底层科研数据形成更深刻的认识。

但垂类模型也有几重问题：第一，它设计极其精准，却缺乏思考和推理能力，仍然需要人参与，也就是所谓的Human-in-the-loop（人机回环），依赖熟悉模型的精英团队反复调优才能得出更好结果；而结合通用大模型，某种程度上可以覆盖部分人类专业知识。第二，目前商业上最成功的智能体是Coding Agent，编码能力强，用户付费意愿高，我每月也投入不少用于编码工作。但Coding做得好不代表科研做得好，写软件和用软件的人是两拨人，写软件的人不一定有用软件的人用得那么好。科研也是同理，讲究推理、知识集成和灵光一现，所以我不认为当前主流的Coding Agent在科学上能很快取得显著成效。第三，科学领域面临一个深层难题：深度知识极度匮乏，反馈慢、高质量数据少，科研至今缺乏金标准的数据、评测或统一方式来衡量“如何做好科研”。

澎湃科技：随着智能体发展，云端Token调用需求现状如何？跟过去相比有哪些变化？

李星星【派欧云计算（上海）有限公司智算业务研发副总裁】： 生成式大模型刚出来那会儿，大家还停留在对话模式，就算多轮对话，上下文消耗最多也就万级Token。到了DeepSeek推出深度思考推理模式，展示完整思考链，大模型能解决复杂问题，单任务Token消耗量级就达到了十万级。今年各种Agent开始涌现，包括去年底流行的代码Agent，需要长时间运行，单任务Token消耗量直接跃升至百万级别。

每年模型能处理的任务复杂度越来越高，单次任务的Token消耗呈10倍增长，性能问题也在变化。以前只求响应快，现在还需要稳定的运行环境，多轮对话后确保目标不跑偏。今年提出的Harness工程，就是为了让Agent稳定运行，这是新的挑战。同时，长上下文带来的KV Cache问题，也涉及性能与成本的权衡。以前模型上下文可能是10K、100K，现在百万级上下文支持已成标准，未来还可能更长，这对Token厂商来说，同样是技术上的考验。

澎湃科技：两位智能体开发者对算力的响应，比如速度、并发性等方面有哪些需求？

唐国华（上海浦东人才发展有限公司首席技术官）： 人才服务具有高并发、高实时性的特征。C端用户的期望永远是上传简历后即刻响应、秒级推荐；B端用户在校招高峰期同样面临海量简历需求，对并发处理能力要求极高。因此，我们对算力的需求远不限于单次快速响应，更需要工业级的稳定性。

谭扬： 大家习惯在执行任务时加上各种约束来减少Token消耗，但我反而会特意告诉它“不要担心消耗，全力执行任务”，这样任务效率更高。同时，我会并行开启5到10个智能体分别处理不同工作，这就形成并发消耗。并发还体现在科研中调用大量HPC算力，包括CPU算力，这些在本机往往无法完成，必须依赖智能体稳定调用超算集群，也就是后台的稳定服务。比如调用各行业API，包括数据库检索API、公开网络搜索API等，这些API是智能体在科研、研发和工业应用中的基础支撑。

澎湃科技：现在算力贵不贵？

唐国华： 我们对算力的需求核心在于业务峰值期、集中测试或长推理中，这部分算力仍然紧缺，因为更看重的是优质且稳定的算力供给。至于算力贵不贵，不必纠结于百万Token单价，真正的贵在于是否存在算力浪费，比如重复推理或者用过重的模型处理简单任务，这就存在优化空间。目前企业愿意为算力买单，紧缺固然存在，但我们更希望在业务高峰期能得到稳定优质的算力供给。

澎湃科技：李总怎么看这些需求？

李星星： Token工厂不光是生产Token，更重要的是怎么交付、怎么用，这才是关键。不同场景下的任务差异很大：HR招聘、人才服务偏向文本处理和逻辑推理；深度学习或深度研究，比如生物或蛋白质研究，则是长周期、高复杂的任务，常需要长时间运行，过程中还要并发探索多条路径。这种场景光提供Token还不够，必须把运行环境也一并交付。从用户角度看，价格当然重要，但更关心的是真正完成一项任务的成本。

Agent生产力取决于两个维度：一是Token智能密度。GPT-3.5时代和GPT-5.6时代，同样生成100个Token，智能层次完全不同，过去只能对话，如今能支持科研。二是Agent loop（智能体循环）时长，复杂任务要迭代多步，不是一轮交互就结束，可能涉及十步甚至百步，能稳定运行一小时的Agent，解决任务的复杂度更高。所以，我们定义Agent生产力 = Token智能密度 × Agent loop时长。

没必要在所有场景下都用最贵的模型。我们的智能网关会根据任务复杂度自动路由到合适的模型：写代码走GLM-5.2，简单文案或简历审核用DeepSeek，视频模态则调用Seedance。用户不必自己纠结选型，这是Token工厂应该做好的事。刚才提到不在乎Token消耗，只求全力完成，这其实追求的不是性价比，而是智能上限。我们的混合模型网关原理类似“三个臭皮匠顶个诸葛亮”，将多个模型的视角和推理结果融合，能突破单一模型的能力上限。从测试数据来看，把国内优秀的开源模型智能组合后，综合表现甚至能超越GPT-5.6。

澎湃科技：一方面是算力紧缺，另一方面企业越来越重视AI支出。这对Token工厂有哪些启示？

李星星： 第一，算力紧缺确实存在物理层面的限制，比如能源和芯片，但即便在相同条件下，通过技术手段仍能进一步压榨性能、提升利用效率。第二，大家现在对Token预算趋于理性，这是好事。AI刚兴起时，多数公司确实存在FOMO（错失恐惧症）情绪，生怕落后就先不计成本地投入；如今理智地看待成本，说明大家开始认真评估ROI（投资回报率）。这种理性并非停止投入，而是控制和优化预算，意味着AI已能解决实际问题，接下来会进入稳健合理的增长阶段。

澎湃科技：Token工厂的核心壁垒到底在哪里？

李星星： Token工厂的定位其实也有差别。整个链条可以分为三个环节：一是如何生产，二是如何交付，三是如何使用。Token如何生产，是大家通常理解的Token工厂——拿到芯片、机房，做推理，产出Token给下游厂商或渠道。第二层是Token如何交付，这涉及最近常听到的AI中转站。中转站本身不生产Token，只是接入一家供应商后转给下游客户，这种模式未来会比较困难，因为上下游挤压，自身附加值也偏低。第三层是Token如何使用，客户拿到Token没法直接用，关键在于怎么把Token塞进智能体，让智能体运行起来，如何与外部世界协作，调用外部知识库、访问工具等，这些都是Token工厂必须解决的问题。我认为应该去做垂直整合，把这些环节打通。

澎湃科技：对于后续Token需求的变化，以及API价格、Token工厂的市场有哪些预判？

李星星： 单Token的成本会持续下降，从2024年到2026年，以前大家用不起，现在只是觉得有点贵。但未来的模型也会分层，不同模型解决不同问题，比如GPT-5.6就包含三个不同智能等级的模型，所以未来Token会形成分层结构。长远来看，Token的需求增长一定大于供应增长，整个市场的消耗量会持续膨胀。我们已经看到Token的ROI跑通的商业场景，第一个是Coding，全球市场巨大，已经得到商业验证；第二个是视频和AI漫剧场景，这得益于编码能力和多模态能力。随着上下游应用和模型能力的进步，还会解锁更多场景。每解锁一个场景，带来的增长空间和经济价值都可能是指数级的，所以虽然单Token价格下降，但整个市场规模会持续增长。

澎湃科技：Coding工具能力强大，但很多Demo“叫好不叫座”？Demo与生产之间鸿沟到底在哪里？

唐国华： Demo更多呈现的是一个理想路径下的应用场景，通常是在相对理想的环境中生成的。但生产环境往往面对大量非标数据、模糊需求以及安全、成本控制等现实约束，和Demo环境完全不同。

谭扬： 首先需要想清楚谁最喜欢Demo。我个人觉得一个是科研界，另一个是老板。科研界喜欢Demo，我深有体会：2025年我在NLP（自然语言处理）顶会ACL上发了一篇Demo赛道论文，但我很清楚那真的只是个Demo，放到真实环境里并不那么有用，更多是给学界带来一些启示。大家可以用这个平台，但第一我不会对结果负责，你用可以，来贡献也行，把社区做大、增加影响力都没问题；第二持续运营也很难，Demo往往以学术成果为依托，不会长期投入，学生或个体户心血来潮做出来发布出去，后续很难维护。很多开源仓库能长期运作的，往往是大公司投入大量资金维护，才能把Demo变成可落地的资产。老板也喜欢Demo，因为他看到Demo后，觉得在脑子里跑通了就等同于落地了，但实际上离真实落地还差得很远，路上有大量困难点，而且不少困难并不在技术层面。所以总体来看，Demo更像一种幻觉，潮水退去，才知道谁在裸泳。

澎湃科技：怎么解决这个问题？

谭扬： 最核心的问题在于企业要明确在哪些卡点上使用智能体才真正有价值。目前大家拥抱AI更多是出于焦虑，才不计成本大量投入。以科研为例，卡点并不在于是否使用AI，而在于哪些环节能用上AI。蛋白质研究的前期设计需要高度专业化的人力或AI能力，通用智能固然强大，但在特别垂类的领域仍存在缺陷。一些工业生产场景可能不需要高级AI，一个小模型就能解决，成本也不高。大家开始控制成本，因为发现AI进来了，效率似乎也没有提升那么多，反而更要回归业务本身，审视卡点在哪。

澎湃科技：有的AI产品免费，有的收费，如何推动商业化，打造护城河？B端、C端策略是否不同？

谭扬： 智能体领域没有护城河。Codex、Claude Code以及现在很多国产智能体基本都开源，大家都能获取到，再基于此搭建自己的智能体。说没有护城河，主要针对个人或中小企业的开发者，想做这件事确实很难形成壁垒。但话又说回来，智能体这两年之所以这么火，是因为我们发现它能干活。过去大家聊聊天，模型提供情绪价值或文书沟通，但智能体更多是在聊落地、聊应用、聊场景，聊怎么在具体工作中加速。回到护城河的问题，其实更多在于数据。各个行业做业务、接触客户，积累了很多不上网的数据，这才是最有价值的。大模型会吃掉目前所有公开信息，我们做清洗只是在大模型上雕花，下一轮浪潮就会被淹没。但那些垂直数据，比如我们做的蛋白质极端环境数据、科研合作项目数据，或者工业领域的私有数据，就必须深入每个行业。这些数据同智能体、业务沉淀迭代后会形成Skill。很多业务Skill远比写文档复杂，需要全社会持续探索才能真正做好。

澎湃科技：大厂入场，其他“Token工厂”的生存空间在哪里？

李星星： Token工厂分几个层次，生产、交付、使用，如果只解决其中某一个环节的问题，都会很困难。尤其像AI中转站，随着上下游逐步成熟，两端一挤压，这类模式很可能被淘汰。另一个关键是定位问题，大厂内部都有自己的“亲儿子”模型，而且过去软件开发或科技研发以月甚至年为单位迭代，现在以天为单位，变化太快。所以你要走在大厂前面，同时避开他们亲儿子的路线，做到模型中立、快速迭代，再加上垂直整合，这样才有可能找到自己的生存空间。

澎湃科技：在Token工厂方面，有没有一些隐形的挑战？比如成本？

李星星： Anthropic的Token可是出了名的贵，但为什么还卖得好？正是因为它切实解决了价值问题。价格上的挑战并非真正的问题，核心挑战在于模型自身的演进方向，工具和体验上迭代可能下一代模型出来就直接碘伏了，这才是隐性的、值得Token工厂或应用层深入思考的问题。

澎湃科技：模型迭代后Token工厂怎么跟上才能不掉队，或者不让模型迭代来迭代掉你们的技术？

李星星： Token工厂要跟上模型迭代的速度。现在开源和闭源模型都很快，你是否能在第一时间让用户体验到新的Token，这是可获得性的问题。第二，你能否在合适场景下交付合适的Token。对用户来说，最难的是选择本身以及如何衡量ROI。所以Token厂商不只是生产Token，还需要帮用户做评估。我们现在很大一部分时间和成本花在模型能力评估上，最大的成本不是研发人员上线模型，而是要把模型方方面面的能力搞清楚，它到底能解决什么问题，才能给客户推荐。

澎湃科技：未来两年，AI智能体带来的生产力变革，最大机遇和最被低估的行业风险分别是什么？

唐国华： 机遇在于行业流程的智能化重构。风险始终存在，主要是AI幻觉和权责边界模糊，在涉及人才决策和企业发展时尤为关键。因此，必须建立人机协同的校验闭环，AI提供初筛和推荐，人最终做决策，避免错误自动扩散。

谭扬： AI for Science领域最大的问题在于它需要具备自进化的能力。科学和自然中存在大量“无人区”，人力无法无限触达，最好的方式是通过AI不断学习新场景、新知识，自主提出假设并执行。五月份，Nature正刊连发了三篇关于AI科学家的论文，这在以前是不可想象的。

科学问题中存在明显的静默错误或微小偏差，在长期执行中会被不断放大，若中间没有人力干预或专家研判，就可能引发不可控后果，造成巨大经济浪费。一旦涉及湿实验、建厂、产品管线，决策成本非常高。目前整个AI for Science领域仍偏向Human-in-the-loop状态，尚未实现完全的全自动执行。虽然也有全自动案例，比如春节期间有公司直播AI全自动写论文，结果质量不错，这是AI for AI的展示。我们更关注的是AI for Science本身，如何在智能体演化过程中提前规避细小错误，使科研从过去依赖人力渐进式推进转变为跨越式的智能突破。

澎湃科技：现在AI赛道卷不卷？如果要给从业者一个建议，你们的回答是什么？

唐国华： AI赛道确实非常卷，建议是不要只盯着参数和热点故事，真正要扎进真实的业务场景，把那些不标准、不丝滑的痛点彻底解决掉。让客户和企业用户能持续给你反馈，同时让他们看到可感知的效率提升，并愿意为此持续买单，这样才算真正具备产品力和生命力。

谭扬： 太卷了，每天都很焦虑，几乎成了常态。AI一线从业者最能感受到世界以天为单位变化，每天早起一刷公众号感觉天塌了，各种震撼新闻，一刷又开始焦虑。AI行业是全世界最顶尖聪明的一群人在“打架”，而且完全公开在网上，一瞬间就能触达到你。至于建议，很多垂类行业用一套小的AI应用往往能产生很大价值。如果能冲进那些竞争不太激烈的领域，去做“脏活累活”，可能反而是更有价值的选择。

李星星： 卷说明大家达成了共识，有共识就说明市场和空间是巨大的，所以卷是好事。建议不要去解决模型演化路上本身会被迭代掉的问题。真正值得做的是那些脏活、累活、有摩擦的活。比如招聘，每个公司流程、标准、人才画像都不一样，这不是通用模型能搞定的，只有在这个行当深耕五到十年，才知道中间的know-how，模型短期内很难解决。另外就是生产环境里的摩擦问题，最近出现了FDE（前沿部署工程师）岗位，OpenAI和微软都在专门设团队，解决模型如何真正进入企业环境的问题，说明中间还有大量空白。AI解决了很多，但没解决的问题更多，去找到那些AI可能解决但还没落地的地方，才是值得探索的方向。对普通上班族来说，一定要拥抱AI、好好用它。以前精英员工和普通员工的差距可能是两倍到五倍，但AI时代，超级个体和普通员工的差距能拉到十倍、二十倍。AI在放大优点，也在放大缺点。关键不是执行力，而是判断力，是行业know-how，而不是把一个工作做得更细更全。