当前位置:

首页 > 硬件相关 > 用AI路由器省Token成新趋势?巨头争相布局,企业AI成本最高下降近97%

用AI路由器省Token成新趋势?巨头争相布局,企业AI成本最高下降近97%

Air Explorer Pro
Air Explorer Pro

Air Explorer Pro是一款跨平台多网盘管理工具,可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

立即下载
¥99
Windows/macOS 2026-08-22
正版软件 Windows macOS软件 Pro 文件搜索工具 Pro下载 Pro正版软件 Pro购买

模型路由器技术正加速渗透企业市场,通过按任务分层调度自动匹配模型,大幅压减Token支出。头部企业实践显示推理成本最高降97%,资本积极布局,OpenRouter获1.2亿美元融资,AI竞争重心转向成本优化与调度精细度。

本文目录

    最近有个趋势挺有意思,AI使用成本越来越高,反倒是“模型路由器”这类技术开始加速渗透进企业市场了。

    用AI路由器省Token成新趋势?巨头争相布局,企业AI成本最高下降近97%

    这背后的逻辑其实不复杂:与其每次任务都调用最贵的模型,不如让系统自动帮你匹配一个最合适的。既能保证效果不崩,又能大幅度压减Token支出。说白了,就是从“默认调用最强模型”,转向“按任务分层调度”。

    从产业层面来看,模型路由器已经不只是个工具型产品了,它正在快速演变成基础设施级的组件。无论你是科技大厂,还是AI平台公司,眼下都在抢着布局这个能力,把它嵌入到AI工作流和API网关里去。

    更深层的信号是:AI竞争的重心,正在悄悄地从“谁的模型更强”,转向“谁的调度和成本优化更精细”。谁能把这块算得更细,谁就更有可能在下一阶段占住身位。

    从“默认最强”到“按需分层”

    模型路由器的本质,就是对AI任务进行成本和能力的分层匹配。

    企业在实际使用中会发现,很多任务根本不需要最强的模型。比如邮件总结、文档摘要、信息检索这些场景,完全可以让更小、更便宜的模型来搞定。只有那些需要复杂推理的任务,才值得交给前沿模型去处理。

    这个思路在OpenAI推出GPT-5系列之后变得更加清晰:系统会根据任务复杂度,在不同模型之间自动切换。接着,跨模型、跨供应商的第三方路由器也陆续出现,企业可以在OpenAI、Google、Anthropic这些主流模型之间动态调度,不必再被一家绑定。

    日本AI实验室Sakana AI之前推出过一个多模型协同系统,很有意思。它显示路由机制已经有点“专家分工”的味道了:数学问题倾向于调用OpenAI的模型,科学问题则更多路由到Google Gemini那边去。

    头部企业的降本实践:推理成本最高降了97%

    在商业化层面,模型路由器已经开始带来实打实的成本下降。

    Palantir Technologies推出的Evolve AI路由工具,不只管模型选择,还能优化提示词,避免重复调用。根据公司披露的数据,在某些案例里,通过把任务从较强模型切换到轻量模型,推理成本竟然降了差不多97%。

    建筑公司McCarthy Building也说,他们的AI Token使用量同比下降了约60%,主要就是靠模型调度优化实现的。

    与此同时,Databricks推出的Unity AI Gateway已经在内部广泛使用。其CEO Ali Ghodsi话说得很直白:这类工具之所以受欢迎,是因为企业“正在以过快的速度把AI预算烧光”。

    网络安全领域也没闲着,Palo Alto Networks等公司开始通过模型切换策略来降低AI调用成本。路由能力正在变成企业AI架构里一个默认可选的功能模块。

    资本与产品共振,赛道加速成型

    资本市场显然也嗅到了这股风向。

    模型路由平台OpenRouter在4月完成了1.2亿美元融资,一下子成为赛道里最受关注的创业公司之一。它的核心产品“自动路由器”挺有意思:用户可以自己设定一个成本和质量偏好的区间(0到10),系统会根据这个偏好去动态选择模型。

    数据也证实了这套策略的效果:OpenRouter的路由逻辑里,大约三分之一的请求被分配到了Google的低成本模型上,只有约10%流向了OpenAI那种较强的模型。这种成本分层优化,做得相当明显。底层还整合了Not Diamond等路由技术提供商,支持跨云服务商调用,进一步优化延迟和价格。

    此外,AI编程公司Cognition也推出了自己的路由系统。在编程基准测试中,它接近前沿模型的表现,但成本只用了大约35%。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关 AI
    相关文章 更多
    剪映专业版字幕怎么自动生成 AI识别准确率提升方法
    剪映专业版字幕怎么自动生成 AI识别准确率提升方法

    「文本 → 智能字幕」点开始识别即可生成。准确率主要靠前置处理:给人声降噪、把音乐轨静音再识别、长素材按 2–3 分钟分段。术语与品牌名识别后需人工替换。

    Microsoft 365 Outlook怎么用Copilot总结邮件
    Microsoft 365 Outlook怎么用Copilot总结邮件

    用 Copilot 总结邮件先打开长邮件线程,新版 Outlook 点线程顶部「Summary by Copilot」框,经典版点「Summarize」即生成带编号引文的摘要。全文覆盖新版与经典版差异、撰写邮件草拟、跨邮件跟进与许可说明,适用于具备 Copilot 权益的订阅。

    Microsoft 365怎么用Copilot分析Excel数据
    Microsoft 365怎么用Copilot分析Excel数据

    用 Copilot 分析 Excel 数据先把数据整理为带标题行的表格区域,点右下角 Copilot 图标,用自然语言提问即可获得结论、公式与图表,并可进入高级分析模式。全文覆盖数据准备、提问技巧、生成公式与图表、许可要求与结果核实,适用于具备 Copilot 许可的订阅。

    Microsoft 365 Copilot怎么生成PPT 操作教程
    Microsoft 365 Copilot怎么生成PPT 操作教程

    用 Copilot 生成 PPT 先在 PowerPoint 新建演示文稿,点右下角 Copilot 图标进入 Agent Mode,输入主题提示词生成大纲,再让它生成幻灯片并按需尝试新设计。全文覆盖 Agent Mode 流程、从 Word 文件生成、许可要求与内容核实,适用于具备 Copilot 许可的订阅。

    Microsoft 365怎么用Copilot写Word文档
    Microsoft 365怎么用Copilot写Word文档

    用 Copilot 写 Word 文档先确认账户具备 Copilot 权益,点文档右下角 Copilot 图标或按 Alt+C 打开窗格,输入包含主题、受众、语气的提示词生成草稿,再选保留或重新生成。全文覆盖入口、提示词技巧、引用文件与内容核实,适用于具备 Copilot 许可的订阅。

    Ducter 0.0.75 与 0.0.76 的来源筛选和零结果该怎样理解?
    Ducter 0.0.75 与 0.0.76 的来源筛选和零结果该怎样理解?

    Ducter 0.0.75 支持待办来源筛选,0.0.76 区分本人 issue、PR 与待审 PR,并明确提示读取失败。两个正式发布版本提供对应分发资产,Linux 安装示例固定到 0.0.76。

    Codex 0.170.0 正式版的语音与连接更新,适用范围有哪些限制?
    Codex 0.170.0 正式版的语音与连接更新,适用范围有哪些限制?

    0.170.0 的语音更新限于终端通话协商能力的明确新增,同名工具服务器跨环境支持仍标注实验性质;连接部分则修复大请求回退、认证竞态和云端重连等具体问题。这份正式版公告不足以证明所有账户、所有客户端都已具备完整语音功能。

    Hy4 flash 三种权重怎么选,安装和授权要注意哪些条件?
    Hy4 flash 三种权重怎么选,安装和授权要注意哪些条件?

    了解Hy4 flash、FP8与base的适用任务,阅读官方安装及图文代码,并核对资源和MaaS许可条件。

    llama.cpp b12489、b12490、b12491、b12492、b12493、b12494、b12496、b12497、b12498预发布说明
    llama.cpp b12489、b12490、b12491、b12492、b12493、b12494、b12496、b12497、b12498预发布说明

    llama.cpp b12489、b12490、b12491、b12492、b12493、b12494、b12496、b12497、b12498 均为预发布构建,分别涉及服务器、语音模型及特定后端;适用范围须按模型、硬件和请求条件区分。

    OpenAI Python SDK 3.55.0 升级看点:Live MCP 服务配置与预算接口变化
    OpenAI Python SDK 3.55.0 升级看点:Live MCP 服务配置与预算接口变化

    OpenAI Python SDK 3.55.0 升级看点:Live MCP 服务配置与预算接口变化。说明已核实的更新范围、类型兼容性和本地版本确认方法。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。

    即将离开本站
    您即将前往第三方网站,请确认是否继续?